Kako spriječiti izmišljene odgovore glasovnog AI-ja u pozivima
Zašto glasovni agenti ponekad iznose netočne tvrdnje i praktični koraci koji to ograničavaju: utemeljeni izvori, sigurne rezervne opcije, zamke i pregled.
Pitajte glasovnog agenta za radno vrijeme i odgovorit će glatko. Problem nastaje kada jednako glatko odgovori o nečemu što mu nikad nije rečeno. To ljudi misle pod halucinacijom: izlaz koji zvuči ispravno, ali nema uporište u vašim informacijama.

Na telefonskoj liniji rizik je izraženiji nego u prozoru chata. Pozivatelj čuje jednu samouvjerenu rečenicu, bez poveznice, bez izvora i bez lakog načina da se vrati. Ovaj vodič objašnjava zašto halucinacije nastaju, kako ih smanjiti i kako provjeriti djeluju li vaši popravci.
Što je halucinacija i zašto nastaje
Jezični model stvara najvjerojatniji nastavak razgovora. Treniran je na golemim količinama teksta i nema ugrađen osjećaj za to koje su tvrdnje istinite za vašu tvrtku. Kada odgovor nedostaje u promptu ili izvorima, model prazninu može popuniti nečim što izgleda razumno.
Tipični uzroci kod telefonskog agenta
- Nedostajuće informacijePozivatelj pita nešto što nitko nije zapisao, pa model improvizira.
- Zastarjele informacijeU izvoru je ostala stara cijena ili staro radno vrijeme.
- Dvosmisleni izvoriDva se dokumenta ne slažu, a agent odabere jedan.
- Pritisak da bude uslužanPrompt koji kaže „uvijek odgovori” potiče nagađanje.
- Pogreške prepoznavanja govoraPogrešno čuta riječ mijenja pitanje, pa agent odgovara na neko drugo.
Posljednji je uzrok lako previdjeti. Ako u transkriptu piše utorak, a pozivatelj je rekao četvrtak, odgovor može biti savršeno točan za pogrešno pitanje. Kako nastaju pogreške prepoznavanja, objašnjava članak Prepoznavanje govora u telefonskim pozivima.
Kako to izgleda u praksi
Hipotetska stomatološka ordinacija agentu može dati informacije o radnom vremenu i uslugama. Pozivatelj pita prihvaća li ordinacija određeno osiguranje. Bez informacija o tome, nepažljiv agent mogao bi reći da, jer mnoge ordinacije prihvaćaju. Pozivatelj dođe očekujući pokriće i nezadovoljan je. Rješenje nije pametniji model, nego jasna uputa i izvor koji kaže što učiniti kada odgovor nije poznat.
Uobičajene visokorizične teme su cijene, dostupnost, pravni ili medicinski savjeti, obećanja povrata novca i sve što zvuči kao obveza. Označite ih kao područja u kojima agent ne smije improvizirati.
Zašto glas to pogoršava
Pisani odgovor chatbota može sadržavati poveznicu, izjavu o ograničenju odgovornosti ili vidljiv popis izvora. Govor ne sadrži ništa od toga. Sintetički glasovi uz to su glatki i ujednačeni, pa nagađanje zvuči točno kao činjenica; nema oklijevanja koje bi upozorilo pozivatelja. Pozivatelji često odmah postupaju prema onome što čuju: odvezu se negdje, nešto otkažu ili nešto plate.
Zato dizajn telefonskih agenata treba naginjati suzdržanosti. Kratak iskren odgovor koji upućuje na osobu stoji nekoliko sekundi. Samouvjeren pogrešan odgovor može stajati klijenta. Kada odlučujete koliko strogi biti, razmislite o najgoroj vjerojatnoj posljedici pogrešnog odgovora za svaku temu i prema tome postavite pravilo: opušteno za radno vrijeme, strogo za sve što uključuje novac, zdravlje ili zakonska prava.
Kako smanjiti izmišljene odgovore
Slojevit pristup
- Utemeljite agentaDajte mu odobrene činjenice i recite mu da odgovara samo iz njih.
- Definirajte nepoznatoNapišite što treba reći kada nema odgovor.
- Ograničite obvezeZabranite obećanja koja ne može ispuniti, poput popusta ili potvrđenih rezervacija.
- Ponudite putKao sljedeći korak uvijek ponudite osobu, poruku ili povratni poziv.
- Testirajte i pregledavajteIsprobajte pitanja izvan izvora i čitajte stvarne transkripte.
Utemeljite ga na odobrenim izvorima
Dohvaćanje znači da se u trenutku pitanja iz vaših dokumenata pronalaze relevantni odlomci i modelu se daju samo oni. Tako odgovori ostaju vezani uz tekst koji ste vi napisali. Dohvaćanje informacija za glasovne agente objašnjava tu ideju, a Izvori znanja u Callu pokazuje kako to izgleda u proizvodu.
Pišite kratke, nedvosmislene činjenice
Jedna činjenica po unosu, s uključenim uvjetom, djeluje bolje od duge brošure. Umjesto „Radimo vikendom” napišite „Subotom od 9 do 13, nedjeljom zatvoreno”. Ako tema ima iznimke, navedite ih u istom unosu.
Koristite točne odgovore za ključna pitanja
Za pitanja kod kojih je formulacija važna, poput pravila otkazivanja, dajte agentu točan odgovor koji treba pročitati. U Callu možete dodati pitanje i točan odgovor koji agent treba dati, pa ne mora parafrazirati.
Naučite ga reći „ne znam”
Iskreno „To ne mogu potvrditi tijekom ovog poziva, ali mogu zabilježiti vaše podatke kako bi vam se netko javio” daleko je bolje od nagađanja. U Callu je agent osmišljen da jasno kaže kako nešto ne može potvrditi kada ništa u njegovim uputama ili izvorima ne odgovara na pitanje te da ponudi osobu ondje gdje linija može prespojiti pozivatelje. Također nikad ne izmišlja cijene, radno vrijeme, datume ni druge činjenice koje vaše upute i izvori ne navode, a vaše upute ta pravila ne mogu isključiti.
Utemeljeni i neutemeljeni odgovori
Isto pitanje, dva postava
| Neutemeljen agent | Utemeljen agent | |
|---|---|---|
| Izvor odgovora | Opće znanje i uvjerljiva nagađanja | Samo vaše odobrene činjenice |
| Kada nedostaju informacije | Izmišlja nešto tečno | Kaže da ne može potvrditi, nudi sljedeći korak |
| Rizik za pozivatelja | Može postupiti prema pogrešnim podacima | Zna što je nesigurno |
| Održavanje | Lako za početak, teško za vjerovati | Izvori se moraju održavati ažurnima |
Namjerno testirajte halucinacije
Ne čekajte da praznine pronađe klijent. Sastavite mali skup pitanja-zamki i pokrenite ih kad god promijenite prompt ili izvore.
Skup testova za halucinacije
- Pitajte o usluzi koju ne nudite
- Tražite cijenu koje nema u izvorima
- Pitajte o iznimci od pravila koju nitko nije zapisao
- Tražite datum daleko u budućnosti
- Postavite pitanje drukčije formulirano od vaših pisanih odgovora
- Pitajte nešto što zvuči slično obuhvaćenoj temi
- Provjerite završava li svako nepoznato sigurnim sljedećim korakom
Ponovite skup nakon promjena i dodajte mu svaki stvarni neuspjeh koji pronađete. Širi proces testiranja opisuje članak Testiranje glasovnog AI agenta.
Nastavite pratiti nakon pokretanja
Kontrola halucinacija nije jednokratan zadatak. Informacije se mijenjaju, pojavljuju se nova pitanja, a promptovi se mijenjaju kako ih ljudi uređuju. Uspostavite rutinu: svaki tjedan pročitajte uzorak transkripata, tražite izraze koji upućuju na sumnju i ažurirajte izvore. U Callu možete otvoriti cijeli razgovor bilo kojeg poziva, pretraživati sve pohranjene transkripte po izrazu i vidjeti povijest ispravaka agentovih formulacija. Imajte na umu da se transkripti čuvaju ograničeno vrijeme, pa ih pregledajte na vrijeme.
Primjena u Callu
Počnite tako da najčešća pitanja napišete kao točne parove pitanja i odgovora, za sve ostalo dodajte kratke činjenične izvore, a agenta povežite s linijom tek nakon testiranja. Ako želite pomoć pri pisanju promptova koji obeshrabruju nagađanje, pročitajte Pisanje uputa (promptova) za LLM telefonskog agenta. Zaštitne mjere koje idu uz ovaj rad obrađuje članak Zaštitne mjere za glasovne AI agente.
Često postavljana pitanja
Što je halucinacija glasovnog AI-ja?
To je odgovor koji zvuči samouvjereno, ali ga vaše informacije ne potkrepljuju, primjerice izmišljena cijena ili pravilo. Događa se kada model popuni prazninu umjesto da prizna da ne zna.
Mogu li se halucinacije potpuno ukloniti?
Nijedan alat to ne može obećati. Možete ih znatno smanjiti ograničavanjem onoga što agent smije reći, ažurnim izvorima i sigurnom rezervnom opcijom, ali trebate nastaviti testirati i pregledavati.
Zašto agent odgovara na pitanje za koje ga nikad nisam pripremio?
Jezični modeli izgrađeni su da proizvode uvjerljiv tekst. Bez jasne upute da ostane unutar vaših izvora i kaže kada nešto ne može potvrditi, može improvizirati.
Je li pogrešno čuta riječ isto što i halucinacija?
Ne baš. Pogrešno čuta riječ pogreška je prepoznavanja, ali može dovesti do pogrešnog odgovora koji izgleda kao halucinacija. Provjerite transkript da vidite što se dogodilo.
Koje su teme najrizičnije?
Cijene, dostupnost, medicinski ili pravni savjeti, povrati novca i svako obećanje ili obveza. Za njih agentu dajte točne formulacije ili predaju.
Koliko često trebam pregledavati transkripte?
Pri pokretanju svaki dan ili svakih nekoliko dana, zatim tjedno. Češće pregledavajte nakon promjene prompta ili izvora.