Cum preveniți răspunsurile inventate ale AI-ului vocal la telefon
De ce agenții vocali afirmă uneori lucruri neadevărate și pașii practici care limitează riscul: surse verificate, variante sigure, întrebări-capcană și verificare.
Întrebați un agent vocal care este programul și vă va răspunde fără ezitare. Problema apare când răspunde la fel de fluent despre ceva ce nu i s-a spus niciodată. Asta înțeleg oamenii prin halucinație: un răspuns care sună corect, dar nu are nicio bază în informațiile dumneavoastră.

Pe o linie telefonică, riscul este mai mare decât într-o fereastră de chat. Apelantul aude o singură propoziție sigură pe ea, fără link, fără sursă și fără o modalitate ușoară de a reveni. Acest ghid explică de ce apar halucinațiile, cum le reduceți și cum verificați că soluțiile funcționează.
Ce este o halucinație și de ce apare
Un model de limbaj produce cea mai plauzibilă continuare a unei conversații. A fost antrenat pe cantități uriașe de text și nu are un simț propriu despre ce afirmații sunt adevărate pentru afacerea dumneavoastră. Când răspunsul lipsește din prompt sau din surse, modelul poate umple golul cu ceva ce pare rezonabil.
Cauze tipice la un agent telefonic
- Informații lipsăApelantul întreabă ceva ce nu a notat nimeni, așa că modelul improvizează.
- Informații învechiteUn preț sau un program vechi a rămas într-o sursă.
- Surse ambigueDouă documente se contrazic, iar agentul îl alege pe unul.
- Presiunea de a fi utilUn prompt care spune „răspunde întotdeauna” încurajează ghicitul.
- Erori de recunoaștere vocalăUn cuvânt auzit greșit schimbă întrebarea, așa că agentul răspunde la alta.
Ultima cauză este ușor de trecut cu vederea. Dacă transcrierea spune marți când apelantul a spus joi, răspunsul poate fi perfect corect pentru întrebarea greșită. Vedeți Recunoașterea vocală în apelurile telefonice pentru modul în care apar erorile de recunoaștere.
Cum arată în practică
O clinică stomatologică ipotetică îi poate furniza agentului informații despre program și serviciile oferite. Un apelant întreabă dacă clinica acceptă un anumit plan de asigurare. Fără informații despre acest subiect, un agent neglijent ar putea spune da, pentru că multe clinici acceptă. Apelantul vine așteptându-se la acoperire și pleacă nemulțumit. Soluția nu este un model mai inteligent, ci o instrucțiune clară și o sursă care spune ce trebuie făcut când răspunsul nu este cunoscut.
Subiectele frecvente cu risc ridicat sunt prețurile, disponibilitatea, sfaturile juridice sau medicale, promisiunile de rambursare și orice sună a angajament. Marcați-le ca zone în care agentul nu are voie să improvizeze.
De ce vocea agravează problema
Un răspuns scris al unui chatbot poate include un link, o mențiune de precauție sau o listă vizibilă de surse. Vorbirea nu include nimic din toate acestea. Vocile sintetice sunt și ele fluide și constante, așa că o presupunere sună exact ca un fapt; nu există nicio ezitare care să-l avertizeze pe apelant. Apelanții acționează adesea imediat pe baza a ceea ce aud: merg undeva, anulează ceva sau plătesc ceva.
De aceea, designul agenților telefonici ar trebui să încline spre reținere. Un răspuns scurt și onest care trimite către o persoană costă câteva secunde. Un răspuns greșit spus cu siguranță poate costa un client. Când decideți cât de strict să fiți, gândiți-vă la cea mai gravă consecință plauzibilă a unui răspuns greșit pentru fiecare subiect și stabiliți regula în consecință: relaxată pentru program, strictă pentru orice implică bani, sănătate sau drepturi legale.
Cum reduceți răspunsurile inventate
O abordare în straturi
- Ancorați agentulDați-i informații aprobate și spuneți-i să răspundă doar din ele.
- Definiți necunoscutulScrieți ce trebuie să spună când nu are un răspuns.
- Restricționați angajamenteleInterziceți promisiunile pe care nu le poate respecta, cum ar fi reduceri sau programări confirmate.
- Oferiți o caleOferiți întotdeauna ca pas următor o persoană, un mesaj sau un apel înapoi.
- Testați și verificațiÎncercați întrebări din afara surselor și citiți transcrierile reale.
Ancorați-l în surse aprobate
Regăsirea informațiilor înseamnă căutarea pasajelor relevante din documentele dumneavoastră chiar în momentul întrebării și furnizarea doar a acestora către model. Astfel, răspunsurile rămân legate de textul pe care l-ați scris. Regăsirea informațiilor pentru agenții vocali explică ideea, iar Sursele de cunoștințe în Call arată cum apare în produs.
Scrieți informații scurte și lipsite de ambiguitate
O singură informație pe intrare, cu condiția inclusă, funcționează mai bine decât o broșură lungă. În loc de „Avem deschis în weekend”, scrieți „Sâmbătă de la 9 la 13, duminică închis”. Dacă un subiect are excepții, menționați-le în aceeași intrare.
Folosiți răspunsuri exacte pentru întrebările-cheie
Pentru întrebările la care formularea contează, cum ar fi regulile de anulare, dați-i agentului răspunsul exact pe care să-l citească. În Call puteți adăuga o întrebare și răspunsul exact pe care trebuie să-l dea agentul, astfel încât să nu fie nevoit să parafrazeze.
Învățați-l să spună „nu știu”
Un „Nu pot confirma acest lucru în acest apel, dar vă pot nota datele, iar cineva vă va contacta” onest este mult mai bun decât o presupunere. În Call, agentul este conceput să spună deschis că nu poate confirma ceva atunci când nimic din instrucțiunile sau sursele sale nu răspunde la întrebare și să ofere legătura cu o persoană, acolo unde linia poate transfera apelanții. De asemenea, nu inventează niciodată prețuri, programe, date sau alte informații pe care instrucțiunile și sursele nu le menționează, iar instrucțiunile dumneavoastră nu pot dezactiva aceste reguli.
Răspunsuri ancorate versus neancorate
Aceeași întrebare, două configurații
| Agent neancorat | Agent ancorat | |
|---|---|---|
| Sursa răspunsului | Cunoștințe generale și presupuneri plauzibile | Doar informațiile dumneavoastră aprobate |
| Când lipsesc informațiile | Inventează ceva fluent | Spune că nu poate confirma și oferă un pas următor |
| Riscul pentru apelant | Poate acționa pe baza unor detalii greșite | Știe ce este incert |
| Întreținere | Ușor de pornit, greu de crezut | Necesită surse ținute la zi |
Testați intenționat halucinațiile
Nu așteptați ca un client să găsească golurile. Construiți un set mic de întrebări-capcană și rulați-l de fiecare dată când modificați promptul sau sursele.
Un set de test pentru halucinații
- Întrebați despre un serviciu pe care nu îl oferiți
- Cereți un preț care nu apare în surse
- Întrebați despre o excepție de la politică pe care nu a notat-o nimeni
- Cereți o dată foarte îndepărtată în viitor
- Puneți o întrebare formulată diferit față de răspunsurile scrise
- Întrebați ceva ce seamănă cu un subiect acoperit
- Verificați că fiecare necunoscută se încheie cu un pas următor sigur
Repetați setul după modificări și adăugați în el fiecare eșec real pe care îl găsiți. Procesul de testare mai larg este descris în Testarea unui agent AI vocal.
Continuați monitorizarea după lansare
Controlul halucinațiilor nu este o sarcină unică. Informațiile se schimbă, apar întrebări noi, iar prompturile se modifică pe măsură ce oamenii le editează. Stabiliți o rutină: citiți săptămânal un eșantion de transcrieri, căutați expresii care semnalează îndoială și actualizați sursele. În Call puteți deschide conversația completă a oricărui apel, puteți căuta o expresie în toate transcrierile stocate și puteți vedea istoricul corecturilor aduse formulărilor agentului. Rețineți că transcrierile sunt păstrate o perioadă limitată, așa că verificați-le prompt.
Aplicarea în Call
Începeți prin a scrie cele mai frecvente întrebări sub formă de perechi exacte întrebare-răspuns, adăugați surse factuale scurte pentru tot restul și atașați agentul unei linii doar după testare. Dacă vreți ajutor la redactarea unor prompturi care descurajează ghicitul, citiți Redactarea prompturilor pentru un agent telefonic LLM. Limitele de siguranță care completează această muncă sunt tratate în Limite de siguranță pentru agenții AI vocali.
Întrebări frecvente
Ce este o halucinație a AI-ului vocal?
Este un răspuns care sună sigur, dar nu se sprijină pe informațiile dumneavoastră, de exemplu un preț sau o politică inventate. Apare când modelul umple un gol în loc să recunoască faptul că nu știe.
Pot fi eliminate complet halucinațiile?
Niciun instrument nu poate promite asta. Le puteți reduce mult limitând ce poate spune agentul, ținând sursele la zi și oferindu-i o variantă sigură de rezervă, dar trebuie să continuați să testați și să verificați.
De ce răspunde agentul la o întrebare despre care nu i-am dat informații?
Modelele de limbaj sunt construite să producă text plauzibil. Fără o instrucțiune clară de a rămâne în limitele surselor și de a spune când nu poate confirma ceva, poate improviza.
Este un cuvânt auzit greșit același lucru cu o halucinație?
Nu tocmai. Un cuvânt auzit greșit este o eroare de recunoaștere, dar poate duce la un răspuns greșit care seamănă cu o halucinație. Verificați transcrierea ca să vedeți ce s-a întâmplat.
Care subiecte sunt cele mai riscante?
Prețurile, disponibilitatea, sfaturile medicale sau juridice, rambursările și orice promisiune sau angajament. Dați-i agentului formulări exacte sau o predare pentru acestea.
Cât de des ar trebui să verific transcrierile?
Zilnic sau la câteva zile la lansare, apoi săptămânal. Verificați mai des după ce modificați promptul sau sursele.