Как да предотвратите измислени отговори от гласовия AI
Защо гласовите агенти понякога казват неверни неща и стъпките, които ограничават това: обосновани източници, безопасни отговори, въпроси-капани и преглед.
Попитайте гласов агент за работното ви време и той ще отговори гладко. Проблемът възниква, когато отговаря също толкова гладко за нещо, което никога не му е било казано. Това имат предвид хората под халюцинация: изход, който звучи правилно, но няма основа във вашата информация.

По телефонната линия рискът е по-остър, отколкото в чат прозорец. Обаждащият се чува едно уверено изречение — без връзка, без източник и без лесен начин да се върне назад. Това ръководство обяснява защо възникват халюцинациите, как да ги намалите и как да проверите дали поправките ви работят.
Какво е халюцинация и защо се случва
Езиковият модел създава най-правдоподобното продължение на разговора. Той е обучен на огромни количества текст и няма вградено усещане кои твърдения са верни за вашия бизнес. Когато отговорът липсва в промпта или в източниците, моделът може да запълни празнината с нещо, което изглежда разумно.
Типични причини при телефонния агент
- Липсваща информацияОбаждащият се пита нещо, което никой не е записал, и моделът импровизира.
- Остаряла информацияСтара цена или работно време остава в някой източник.
- Двусмислени източнициДва документа си противоречат и агентът избира единия.
- Натиск да бъде полезенПромпт, който казва „винаги отговаряй“, насърчава гаденето.
- Грешки в разпознаването на речПогрешно чута дума променя въпроса и агентът отговаря на друг.
Последната причина лесно се пропуска. Ако в транскрипцията пише „вторник“, а обаждащият се е казал „четвъртък“, отговорът може да е напълно точен, но за грешния въпрос. Вижте Разпознаване на реч при телефонни обаждания за това как възникват грешките при разпознаването.
Как изглежда на практика
Хипотетична дентална клиника може да даде на агента си информация за работното време и предлаганите услуги. Обаждащ се пита дали клиниката приема определена застраховка. Без информация по темата невнимателен агент може да каже „да“, защото много клиники приемат. Обаждащият се идва, очаквайки покритие, и остава недоволен. Решението не е по-умен модел, а ясна инструкция и източник, който казва какво да се прави, когато отговорът е неизвестен.
Честите високорискови теми са цени, свободни часове, правни или медицински съвети, обещания за възстановяване на суми и всичко, което звучи като ангажимент. Маркирайте ги като области, в които агентът не бива да импровизира.
Защо гласът влошава нещата
Писменият отговор на чатбот може да съдържа връзка, уточнение или видим списък с източници. Речта не съдържа нищо от тях. Синтетичните гласове са и гладки и равни, така че догадката звучи точно като факт; няма колебание, което да предупреди обаждащия се. Хората често действат веднага по чутото — тръгват нанякъде, отменят нещо или плащат нещо.
Затова дизайнът на телефонните агенти трябва да клони към сдържаност. Кратък честен отговор, който насочва към човек, струва няколко секунди. Уверен грешен отговор може да струва клиент. Когато решавате колко строги да бъдете, помислете за най-лошото правдоподобно последствие от грешен отговор по всяка тема и задайте правилото съответно: свободно за работното време, строго за всичко, свързано с пари, здраве или права.
Как да намалите измислените отговори
Многослоен подход
- Обосновете агентаДайте му одобрени факти и му кажете да отговаря само от тях.
- Определете неизвестнотоНапишете какво да казва, когато няма отговор.
- Ограничете ангажиментитеЗабранете обещания, които не може да изпълни, като отстъпки или потвърдени резервации.
- Предложете пътВинаги осигурявайте човек, съобщение или обратно обаждане като следваща стъпка.
- Тествайте и преглеждайтеОпитвайте въпроси извън източниците и четете реални транскрипции.
Обосновете го с одобрени източници
Извличането (retrieval) означава в момента на въпроса да се намерят подходящите пасажи от вашите документи и само те да се дадат на модела. Така отговорите остават свързани с текст, който сте написали вие. Извличане на информация за гласови агенти обяснява идеята, а Източници на знания в Call показва как изглежда в продукта.
Пишете кратки, недвусмислени факти
Един факт на запис, с включено условие, работи по-добре от дълга брошура. Вместо „Работим през уикенда“ напишете „Събота от 9 до 13 ч., неделя почивен ден“. Ако темата има изключения, посочете ги в същия запис.
Използвайте точни отговори за ключовите въпроси
За въпроси, при които формулировката е важна, например правилата за анулиране, дайте на агента точния отговор, който да прочете. В Call можете да добавите въпрос и точния отговор, който агентът трябва да даде, така че да не се налага да перифразира.
Научете го да казва „не знам“
Честото „Не мога да потвърдя това по време на разговора, но мога да запиша данните ви и някой ще се свърже с вас“ е много по-добро от догадка. В Call агентът е създаден да казва ясно, че не може да потвърди нещо, когато нищо в инструкциите или източниците му не отговаря на въпроса, и да предлага човек, ако линията може да прехвърля обаждащите се. Освен това той никога не измисля цени, работно време, дати или други факти, които инструкциите и източниците ви не посочват, и инструкциите ви не могат да изключат тези правила.
Обосновани срещу необосновани отговори
Един въпрос, две настройки
| Необоснован агент | Обоснован агент | |
|---|---|---|
| Източник на отговора | Общи знания и правдоподобни догадки | Само вашите одобрени факти |
| Когато липсва информация | Измисля нещо гладко | Казва, че не може да потвърди, и предлага следваща стъпка |
| Риск за обаждащия се | Може да действа по грешни данни | Знае кое е несигурно |
| Поддръжка | Лесен старт, трудно доверие | Изисква актуални източници |
Тествайте нарочно за халюцинации
Не чакайте клиент да открие пропуските. Създайте малък набор от въпроси-капани и ги пускайте всеки път, когато променяте промпта или източниците.
Набор за тестване на халюцинации
- Попитайте за услуга, която не предлагате
- Попитайте за цена, която не е в източниците
- Попитайте за изключение от правилата, което никой не е записал
- Попитайте за дата далеч в бъдещето
- Задайте въпрос с формулировка, различна от писмените ви отговори
- Попитайте нещо, което звучи подобно на обхваната тема
- Проверете дали всяко неизвестно завършва с безопасна следваща стъпка
Повтаряйте набора след промени и добавяйте към него всеки реален провал, който откриете. По-широкият процес на тестване е описан в Тестване на гласов AI агент.
Продължавайте да наблюдавате след пускането
Контролът на халюцинациите не е еднократна задача. Информацията се променя, появяват се нови въпроси, а промптовете се отклоняват, докато хората ги редактират. Въведете рутина: всяка седмица четете извадка от транскрипции, търсете фрази, които издават съмнение, и обновявайте източниците. В Call можете да отворите целия разговор от всяко обаждане, да търсите фраза във всички съхранени транскрипции и да видите историята на корекциите в думите на агента. Помнете, че транскрипциите се пазят ограничено време, затова ги преглеждайте своевременно.
Прилагане в Call
Започнете, като напишете най-честите въпроси като точни двойки въпрос-отговор, добавете кратки фактически източници за всичко останало и свържете агента с линия едва след тестване. Ако искате помощ при писането на промптове, които обезкуражават гаденето, прочетете Писане на промптове за LLM телефонен агент. Предпазните механизми, които допълват тази работа, са разгледани в Предпазни механизми за гласови AI агенти.
Често задавани въпроси
Какво е халюцинация на гласовия AI?
Това е отговор, който звучи уверено, но не се подкрепя от вашата информация, например измислена цена или правило. Случва се, когато моделът запълва празнина, вместо да признае, че не знае.
Могат ли халюцинациите да бъдат напълно премахнати?
Никой инструмент не може да обещае това. Можете значително да ги намалите, като ограничите какво може да казва агентът, поддържате източниците актуални и му дадете безопасен резервен отговор, но трябва да продължите да тествате и преглеждате.
Защо агентът отговаря на въпрос, за който никога не съм го подготвял?
Езиковите модели са създадени да генерират правдоподобен текст. Без ясна инструкция да остане в рамките на източниците ви и да казва, когато не може да потвърди нещо, той може да импровизира.
Същото ли е погрешно чутата дума като халюцинация?
Не съвсем. Погрешно чутата дума е грешка в разпознаването, но тя може да доведе до грешен отговор, който прилича на халюцинация. Проверете транскрипцията, за да видите кое от двете се е случило.
Кои теми са най-рискови?
Цени, свободни часове, медицински или правни съвети, възстановяване на суми и всяко обещание или ангажимент. Дайте на агента точни формулировки или прехвърляне за тях.
Колко често да преглеждам транскрипциите?
Ежедневно или на няколко дни при пускането, след това седмично. Преглеждайте по-често, след като промените промпта или източниците.