Teknolohiya ng voice AI

Pag-iwas sa Inimbentong Sagot ng Voice AI sa mga Tawag

Bakit minsang nagsasabi ang voice agent ng hindi totoo, at paano ito limitahan: grounded na source, ligtas na fallback, trap question at regular na review.

Editorial team ng Call · Nailathala · 6 min na pagbabasa

Tanungin ang voice agent tungkol sa oras ng bukas ninyo at maayos itong sasagot. Lumilitaw ang problema kapag kasingkinis din itong sumagot tungkol sa bagay na hindi kailanman sinabi rito. Ito ang tinatawag na hallucination: output na tunog tama pero walang batayan sa impormasyon ninyo.

Isang taong maingat na nakikinig sa tawag sa telepono sa kanyang mesa
Larawang pang-ilustrasyon

Sa phone line, mas matalas ang panganib kaysa sa chat window. Isang kumpiyansang pangungusap ang naririnig ng caller at walang link, walang source at walang madaling paraan para bumalik. Ipinapaliwanag ng gabay na ito kung bakit nangyayari ang hallucination, paano ito bawasan at paano suriin kung gumagana ang mga pag-aayos ninyo.

Ano ang hallucination, at bakit ito nangyayari

Gumagawa ang language model ng pinakakapani-paniwalang kasunod ng usapan. Sinanay ito sa napakaraming teksto at wala itong likas na pakiramdam kung aling mga pahayag ang totoo para sa negosyo ninyo. Kapag wala ang sagot sa prompt o sa mga source, maaaring punan ng model ang puwang ng bagay na mukhang makatwiran.

Mga karaniwang sanhi sa phone agent

  • Kulang na impormasyonNagtatanong ang caller ng bagay na walang nagsulat, kaya nag-iimprobisa ang model.
  • Lumang impormasyonMay natitirang lumang presyo o oras ng bukas sa isang source.
  • Malabong sourceHindi magkasundo ang dalawang dokumento at pumipili ang agent ng isa.
  • Presyong maging matulunginHinihikayat ang panghuhula ng prompt na nagsasabing laging sumagot.
  • Mali sa speech recognitionBinabago ng maling dinig na salita ang tanong, kaya ibang tanong ang sinasagot ng agent.

Madaling makaligtaan ang huling sanhi. Kung Martes ang nakasulat sa transcript pero Huwebes ang sinabi ng caller, maaaring perpektong tumpak ang sagot para sa maling tanong. Tingnan ang Speech Recognition sa mga Tawag sa Telepono para sa kung paano lumilitaw ang mga mali sa recognition.

Ang itsura nito sa praktika

Maaaring sabihin ng isang hypothetical na dental clinic sa agent nito ang oras ng bukas at mga serbisyong inaalok. Nagtanong ang isang caller kung tumatanggap ang klinika ng partikular na insurance plan. Kung walang impormasyon tungkol doon, maaaring sumagot ng oo ang pabayang agent, dahil marami namang klinika ang tumatanggap. Dumating ang caller na umaasang sakop siya at nadismaya. Ang solusyon ay hindi mas matalinong model kundi malinaw na instruction at source na nagsasabi kung ano ang gagawin kapag hindi alam ang sagot.

Mga karaniwang mapanganib na paksa ang presyo, availability, legal o medikal na payo, pangako ng refund at anumang tunog commitment. Markahan ang mga ito bilang mga larangang hindi dapat pag-improbisahan ng agent.

Bakit lumalala ito sa boses

Maaaring may link, disclaimer o nakikitang listahan ng source ang nakasulat na sagot ng chatbot. Wala ang alinman dito sa pananalita. Makinis at matatag din ang mga synthetic na boses, kaya tunog katotohanan ang isang hula; walang pag-aalinlangang magbababala sa caller. Madalas na agad kumikilos ang mga caller batay sa narinig nila, sa pagmamaneho papunta sa isang lugar, pagkansela ng isang bagay o pagbabayad.

Kaya dapat nakahilig sa pagpipigil ang disenyo ng phone agent. Ilang segundo lang ang kapalit ng maikli at tapat na sagot na nagtuturo sa tao. Maaaring mawalan kayo ng customer dahil sa kumpiyansang maling sagot. Kapag nagpapasya kung gaano kahigpit, isipin ang pinakamasamang posibleng bunga ng maling sagot sa bawat paksa at itakda ang patakaran nang naaayon: maluwag para sa oras ng bukas, mahigpit para sa anumang may kinalaman sa pera, kalusugan o legal na karapatan.

Paano bawasan ang mga inimbentong sagot

Isang patong-patong na paraan

  1. I-ground ang agentBigyan ito ng aprubadong impormasyon at sabihing doon lang sumagot.
  2. Tukuyin ang hindi alamIsulat ang dapat nitong sabihin kapag wala itong sagot.
  3. Limitahan ang mga commitmentIpagbawal ang mga pangakong hindi nito matutupad, tulad ng discount o kumpirmadong booking.
  4. Mag-alok ng daanLaging magbigay ng tao, mensahe o callback bilang susunod na hakbang.
  5. Mag-test at magsuriSubukan ang mga tanong na labas sa mga source at basahin ang totoong mga transcript.

I-ground ito sa aprubadong mga source

Ang retrieval ay paghahanap ng kaugnay na bahagi ng mga dokumento ninyo sa sandali ng tanong at pagbibigay lang ng mga iyon sa model. Pinananatili nitong nakatali ang mga sagot sa tekstong isinulat ninyo. Ipinapaliwanag ng Retrieval para sa mga Voice Agent ang ideya, at ipinapakita ng Mga Knowledge Source sa Call kung paano ito lumalabas sa produkto.

Sumulat ng maikli at malinaw na impormasyon

Mas epektibo ang isang impormasyon bawat entry, kasama ang kondisyon, kaysa sa mahabang brochure. Sa halip na Bukas kami tuwing weekend, isulat ang Sabado 9 hanggang 13, sarado tuwing Linggo. Kung may eksepsiyon ang isang paksa, sabihin ito sa parehong entry.

Gumamit ng eksaktong sagot para sa mahahalagang tanong

Para sa mga tanong na mahalaga ang pananalita, tulad ng patakaran sa pagkansela, ibigay sa agent ang eksaktong sagot na babasahin. Sa Call, makakapagdagdag kayo ng tanong at ng eksaktong sagot na dapat ibigay ng agent, kaya hindi na nito kailangang mag-paraphrase.

Turuan itong sabihing hindi nito alam

Mas mabuti nang malayo ang tapat na Hindi ko po iyan makukumpirma sa tawag na ito, pero makukuha ko ang mga detalye ninyo at may babalik sa inyo kaysa sa hula. Sa Call, dinisenyo ang agent na sabihin nang malinaw na hindi nito makukumpirma ang isang bagay kapag walang sumasagot sa tanong sa mga instruction o source nito, at mag-alok ng tao kung kayang ikonekta ng linya ang mga caller. Hindi rin ito kailanman nag-iimbento ng presyo, oras, petsa o ibang impormasyong hindi sinasabi ng mga instruction at source ninyo, at hindi kayang i-off ng mga instruction ninyo ang mga patakarang ito.

Grounded kumpara sa ungrounded na sagot

Iisang tanong, dalawang setup

Ungrounded na agentGrounded na agent
Pinagmulan ng sagotPangkalahatang kaalaman at kapani-paniwalang hulaAng aprubadong impormasyon ninyo lang
Kapag kulang ang impormasyonNag-iimbento ng matatas na sagotSinasabing hindi nito makukumpirma, nag-aalok ng susunod na hakbang
Panganib sa callerMaaaring kumilos batay sa maling detalyeAlam kung ano ang hindi tiyak
MaintenanceMadaling simulan, mahirap pagkatiwalaanKailangang panatilihing updated ang mga source

Sadyang i-test ang hallucination

Huwag hintaying customer ang makahanap ng mga puwang. Bumuo ng maliit na hanay ng trap question at patakbuhin ang mga ito tuwing binabago ninyo ang prompt o mga source.

Hanay ng test para sa hallucination

  • Magtanong tungkol sa serbisyong hindi ninyo inaalok
  • Humingi ng presyong wala sa mga source
  • Magtanong tungkol sa eksepsiyon sa patakaran na walang nagsulat
  • Humingi ng petsang napakalayo pa sa hinaharap
  • Magtanong sa ibang pagkakasabi mula sa nakasulat ninyong sagot
  • Magtanong ng bagay na kahawig ng saklaw na paksa
  • Tiyaking nagtatapos ang bawat hindi alam sa ligtas na susunod na hakbang

Ulitin ang hanay pagkatapos ng mga pagbabago, at idagdag dito ang bawat totoong kabiguang matuklasan ninyo. Inilalarawan ang mas malawak na proseso ng pag-test sa Pag-test ng Voice AI Agent.

Patuloy na bantayan pagkatapos ng launch

Hindi minsanang gawain ang pagkontrol sa hallucination. Nagbabago ang impormasyon, lumilitaw ang mga bagong tanong at unti-unting nag-iiba ang mga prompt habang ine-edit ng mga tao. Magtakda ng routine: magbasa ng sample ng mga transcript bawat linggo, hanapin ang mga pariralang nagpapahiwatig ng pag-aalinlangan, at i-update ang mga source. Sa Call, mabubuksan ninyo ang buong usapan ng anumang tawag, mahahanap sa lahat ng nakatagong transcript ang isang parirala at makikita ang history ng mga pagtatama sa mga salita ng agent. Tandaang limitadong panahon lang itinatago ang mga transcript, kaya suriin ang mga ito agad.

Paglalapat nito sa Call

Magsimula sa pagsulat ng mga pinakamadalas itanong bilang eksaktong pares ng tanong at sagot, magdagdag ng maiikli at makatotohanang source para sa lahat ng iba pa, at ikabit lang ang agent sa linya pagkatapos ng testing. Kung gusto ninyo ng tulong sa pagbuo ng mga prompt na pumipigil sa panghuhula, basahin ang Pag-prompt ng LLM Phone Agent. Tinatalakay sa Mga Guardrail para sa Voice AI Agent ang mga guardrail na kasama ng gawaing ito.

Mga madalas itanong

Ano ang hallucination ng voice AI?

Ito ay sagot na tunog kumpiyansa pero hindi sinusuportahan ng impormasyon ninyo, halimbawa inimbentong presyo o patakaran. Nangyayari ito kapag pinupunan ng model ang puwang sa halip na umaming hindi nito alam.

Kaya bang ganap na alisin ang hallucination?

Walang tool na makakapangako niyan. Malaki ang mababawas ninyo sa paglilimita sa maaaring sabihin ng agent, pagpapanatiling updated ng mga source at pagbibigay dito ng ligtas na fallback, pero dapat patuloy kayong mag-test at magsuri.

Bakit sinasagot ng agent ang tanong na hindi ko itinuro rito?

Ginawa ang mga language model para gumawa ng kapani-paniwalang teksto. Kung walang malinaw na instruction na manatili sa mga source ninyo at sabihin kapag hindi nito makukumpirma ang isang bagay, maaari itong mag-improbisa.

Pareho ba ang maling dinig na salita at ang hallucination?

Hindi eksakto. Mali sa recognition ang maling dinig na salita, pero maaari itong humantong sa maling sagot na mukhang hallucination. Tingnan ang transcript para malaman kung alin ang nangyari.

Aling mga paksa ang pinakamapanganib?

Presyo, availability, medikal o legal na payo, refund at anumang pangako o commitment. Bigyan ang agent ng eksaktong pananalita o handover para sa mga ito.

Gaano kadalas ko dapat suriin ang mga transcript?

Araw-araw o bawat ilang araw sa launch, saka linggu-linggo. Mas madalas na suriin pagkatapos ninyong baguhin ang prompt o mga source.

I-ground ang AI agent ninyo sa mga aprubadong sagot sa Call

Sa demo console, masusubukan mo ang mga papasok na tawag sa isang simulation.

Mga kaugnay na gabay