Tehnologia AI vocală

RAG pentru agenți vocali: răspunsuri din conținutul dumneavoastră

Cum permite RAG unui AI telefonic să răspundă din documentele și FAQ-urile dumneavoastră, cu sfaturi pentru pregătirea conținutului, limitarea erorilor și testare.

Echipa editorială Call · Publicat · 6 min de citit

Un model de limbaj știe multe despre lume și nimic despre firma dumneavoastră. Nu știe programul, politica de anulare sau numele tehnicianului care se ocupă de reparațiile de centrale. Dacă îi cereți să răspundă la întrebarea unui apelant fără aceste informații, poate ghici. Generarea augmentată prin regăsire, prescurtată de obicei RAG, este remediul standard: găsiți partea relevantă din propriul conținut, dați-o modelului împreună cu întrebarea și cereți-i să răspundă din acel material.

O persoană aranjează documente tipărite și un laptop pentru a pregăti o bază de cunoștințe pentru un asistent
Imagine ilustrativă

Acest ghid explică cum funcționează RAG în contextul apelurilor telefonice, cum pregătiți conținutul pentru el, unde greșește și cum îl testați. Pentru contextul fluxului de procesare, vedeți Cum funcționează AI-ul vocal: STT, LLM și TTS.

Cum funcționează RAG într-un apel

Când un apelant pune o întrebare, un agent vocal care lucrează cu RAG face de obicei următoarele:

Calea de regăsire

  1. AscultăRecunoașterea vorbirii transformă cuvintele apelantului în text.
  2. CautăSistemul caută în conținutul dumneavoastră pasaje legate de întrebare.
  3. SelecteazăPăstrează puținele pasaje cele mai relevante și le elimină pe restul.
  4. CompuneModelul de limbaj scrie un răspuns scurt folosind întrebarea și acele pasaje.
  5. VorbeșteText-to-speech citește răspunsul cu voce tare.

De ce să nu-i dăm modelului totul?

Ați putea încerca să lipiți tot conținutul în instrucțiuni. Dar spațiul de lucru al modelului este limitat, instrucțiunile lungi încetinesc răspunsurile, iar o grămadă mare de text face mai ușor ca modelul să piardă singurul rând care contează. Regăsirea păstrează setul de lucru mic și relevant.

Ce înseamnă „căutare”

Căutarea poate fi bazată pe cuvinte-cheie, pe sens (găsind pasaje cu sens asemănător chiar dacă cuvintele diferă) sau un amestec. Căutarea după sens ajută cu apelanții care formulează o întrebare în moduri neașteptate, precum „pot veni duminică?” când conținutul dumneavoastră spune „program de weekend”. Oricare ar fi metoda, pasajele sunt fragmente mici ale documentelor dumneavoastră, deci felul în care scrieți și împărțiți conținutul afectează direct ce se găsește.

Alegerea și pregătirea conținutului

„Calitate la intrare, calitate la ieșire” este valabil aici în mod special. Un agent vocal poate fi exact doar cât este materialul din spatele lui.

Surse frecvente de conținut

  • FAQ și perechi întrebare-răspunsRăspunsuri exacte la întrebări specifice; cea mai fiabilă sursă pentru apelurile frecvente.
  • Pagini webPagini existente despre servicii, program și politici, citite o singură dată sau parcurse pe un întreg site.
  • DocumentePDF-uri și fișiere de procesor de text cu liste de prețuri, meniuri sau proceduri, dacă textul poate fi selectat.
  • Text liberNotițe pentru reguli care nu se încadrează nicăieri altundeva, precum cum se tratează o sărbătoare.
  • Corecturi din apeluri realeRăspunsuri corectate de o persoană după ascultarea unui apel.

Scrieți pentru ureche

Conținutul scris pentru citit sună adesea ciudat când este rostit. Tabelele, listele lungi și abrevierile nu funcționează cu voce tare. Rescrieți răspunsurile-cheie în propoziții simple, cu un fapt pe propoziție, și precizați cum trebuie rostite numerele și orele. Păstrați fiecare pasaj de sine stătător, astfel încât să aibă sens fără pagina din jur.

Eliminați contradicțiile

Dacă o pagină spune că închideți la cinci, iar alta la șase, agentul va spune una dintre ele la întâmplare. Înainte de a importa ceva, găsiți paginile vechi, ciornele și fișierele duplicate și actualizați-le sau ștergeți-le. Adăugați date la politici, astfel încât să câștige cea mai nouă.

Hotărâți ce este în afara limitelor

Spuneți agentului ce nu ar trebui să răspundă: sfaturi juridice, medicale sau financiare, orice despre contul unei anumite persoane sau subiecte pe care le tratați doar prin om. Răspunsul potrivit este o predare politicoasă. Vedeți Măsuri de siguranță pentru agenții vocali AI.

Unde greșește RAG

RAG reduce halucinațiile, dar nu le elimină. Eșecurile tipice sunt:

Moduri de eșec

Ce se întâmplăRemediu
Nu se găsește nimic relevantAgentul improvizează din cunoștințe generale.Instruiți-l să spună că nu știe și să ofere o persoană; adăugați conținutul lipsă.
Se găsește pasajul greșitSe folosește o politică asemănătoare pentru alt serviciu.Rescrieți pasajele cu titluri clare; separați subiectele asemănătoare.
Conținut depășitAgentul spune programul de anul trecut.Dați fiecărei surse un responsabil și o dată de revizuire.
Regăsire prea lungăPrea mult text încetinește răspunsul și îl încurcă.Folosiți pasaje mai scurte și mai concentrate.
Întrebare auzită greșitErorile de recunoaștere a vorbirii duc la o căutare greșită.Testați cu sunet zgomotos și cu accente; confirmați detaliile importante.

Pentru o privire mai profundă asupra prevenirii răspunsurilor inventate, citiți Prevenirea răspunsurilor inventate în AI vocal. Pentru ca agentul să caute fapte în direct, precum starea unei comenzi, nu text static, vedeți Cum lăsați un agent vocal să caute informații.

Bugetul de viteză

Conversațiile telefonice tolerează foarte puțină întârziere. Fiecare pas în plus, precum căutarea, adaugă timp. Păstrați sursele ordonate și mici, evitați regăsirea mai multor pasaje decât are nevoie răspunsul și testați timpii de răspuns în apeluri reale, nu pe un laptop. Latența AI-ului vocal explică cum se simt întârzierile și de unde vin.

Păstrați-l la zi

Programul, prețurile și politicile se schimbă mai repede decât își amintește cineva să editeze baza de cunoștințe. Puneți un memento recurent într-un calendar comun: înainte de fiecare sezon, sărbătoare sau schimbare de preț, responsabilul de conținut revizuiește sursele și le reindexează. După o schimbare, sunați chiar dumneavoastră agentul și întrebați-l despre ce s-a schimbat. O verificare de treizeci de secunde previne o zi de răspunsuri greșite.

Testați înainte și după lansare

Faceți o listă de întrebări în trei grupuri: întrebări la care conținutul răspunde clar, întrebări la care răspunde parțial și întrebări pe care nu le acoperă. Pentru fiecare, notați ce spune agentul. Verificați că este corect, suficient de scurt pentru a fi rostit și că, la al treilea grup, recunoaște că nu știe. Rulați din nou lista ori de câte ori se schimbă conținutul.

O rutină de testare

  • Puneți fiecare întrebare frecventă în două sau trei formulări diferite.
  • Puneți aceleași întrebări cu o linie zgomotoasă sau cu un accent puternic.
  • Cereți ceva ce conținutul nu conține.
  • Puneți o întrebare cu capcană, precum un preț vechi sau o zi de închidere.
  • Ascultați răspunsurile prea lungi pentru a fi urmărite după ureche.
  • Revizuiți săptămânal transcrierile apelurilor reale în prima lună.

Corecturi care rămân

Când un om găsește un răspuns greșit, nu este suficient să corecteze transcrierea; corectura ar trebui să ajungă în baza de cunoștințe, astfel încât agentul să răspundă corect data viitoare. Hotărâți cine are voie să facă acea modificare și păstrați un istoric al modificărilor.

Cum se face în Call

În Call, cunoștințele aparțin unui agent AI și se adaugă la Surse:

Stocarea este comună la nivelul organizației, cu limite pe sursă, iar doar managerii spațiului de lucru pot adăuga, modifica sau șterge surse. Un banner arată când apelurile în direct nu folosesc încă baza de cunoștințe. Istoricul apelurilor vă permite să corectați un răspuns dat de agent și, dacă alegeți, să-l salvați ca răspuns corect pentru data viitoare. Începeți cu Folosirea surselor de cunoștințe în Call și Construirea unei baze de cunoștințe pentru suport și AI.

Întrebări frecvente

Este RAG același lucru cu antrenarea unui model pe datele mele?

Nu. Antrenarea schimbă modelul în sine. RAG lasă modelul neschimbat și îi dă pasaje relevante din conținutul dumneavoastră în momentul întrebării, ceea ce este mai ușor de actualizat și de verificat.

Oprește RAG un agent vocal să inventeze lucruri?

Reduce problema, dar nu o elimină. Agentul poate totuși să citească greșit un pasaj sau să răspundă la o întrebare pe care conținutul dumneavoastră nu o acoperă. Instrucțiunile clare, conținutul bun și testarea regulată țin erorile la un nivel scăzut.

De cât conținut am nevoie?

De mai puțin decât se așteaptă majoritatea oamenilor. Câteva zeci de perechi Q&A exacte, care acoperă cele mai frecvente apeluri, depășesc adesea o arhivă mare needitată. Adăugați mai mult pe măsură ce apelurile reale arată lacune.

Poate agentul să folosească conținutul din PDF-uri?

De obicei, dacă PDF-ul are text selectabil. PDF-urile scanate, doar imagine, cer mai întâi recunoașterea textului. Verificați ce a extras sistemul, pentru că tabelele și coloanele pot ieși amestecate.

Cât de des ar trebui să actualizez baza de cunoștințe?

Ori de câte ori se schimbă faptele și la o dată de revizuire regulată pentru restul. Dați fiecărei surse un responsabil, astfel încât actualizările să nu fie lăsate la voia întâmplării.

Adăugați surse de cunoștințe agentului AI și verificați în Call răspunsurile lui

În consola demo puteți încerca apeluri primite într-o simulare.

Ghiduri conexe