Технології голосового ШІ

Як запобігти вигаданим відповідям голосового ШІ в дзвінках

Чому голосові агенти іноді кажуть неправду і які практичні кроки це обмежують: перевірені джерела, безпечні запасні відповіді, запитання-пастки й перегляд дзвінків.

Редакція Call · Опубліковано · Читати 5 хв

Запитайте голосового агента про ваші години роботи — і він гладко відповість. Проблема виникає, коли він так само гладко відповідає про те, про що йому ніколи не казали. Саме це й називають галюцинацією: відповідь, що звучить правильно, але не має підстав у вашій інформації.

Людина за столом уважно слухає під час телефонної розмови
Ілюстрація

На телефонній лінії ризик гостріший, ніж у вікні чату. Абонент чує одне впевнене речення — без посилання, без джерела й без простого способу повернутися назад. Цей посібник пояснює, чому виникають галюцинації, як їх зменшити і як перевірити, що ваші виправлення працюють.

Що таке галюцинація і чому вона виникає

Мовна модель створює найправдоподібніше продовження розмови. Її навчено на величезних обсягах тексту, і вона не має вбудованого розуміння, які твердження правдиві для вашого бізнесу. Коли відповіді немає ні в промпті, ні в джерелах, модель може заповнити прогалину чимось, що виглядає розумно.

Типові причини в телефонного агента

  • Відсутня інформаціяАбонент питає про те, чого ніхто не записав, і модель імпровізує.
  • Застаріла інформаціяУ джерелі лишилася стара ціна чи старі години роботи.
  • Неоднозначні джерелаДва документи суперечать один одному, і агент обирає один із них.
  • Тиск бути кориснимПромпт «завжди відповідай» заохочує вгадування.
  • Помилки розпізнавання мовленняНеправильно почуте слово змінює запитання, і агент відповідає на інше.

Останню причину легко не помітити. Якщо в розшифровці стоїть вівторок, а абонент сказав четвер, відповідь може бути цілком точною — але на інше запитання. Матеріал Розпізнавання мовлення в телефонних дзвінках пояснює, як виникають помилки розпізнавання.

Як це виглядає на практиці

Умовна стоматологічна клініка може повідомити агентові свої години роботи й перелік послуг. Абонент питає, чи приймає клініка певний страховий поліс. Інформації про це немає, і недбалий агент може відповісти «так», бо багато клінік приймають. Абонент приходить, розраховуючи на покриття, і лишається незадоволеним. Рішення — не розумніша модель, а чітка інструкція й джерело, яке каже, що робити, коли відповідь невідома.

Поширені теми високого ризику — ціни, наявність, юридичні чи медичні поради, обіцянки повернення коштів і все, що звучить як зобов'язання. Позначте їх як сфери, де агент не має права імпровізувати.

Чому голос усе погіршує

Письмова відповідь чат-бота може містити посилання, застереження чи видимий перелік джерел. Мовлення нічого з цього не має. Синтезовані голоси до того ж плавні й рівні, тож здогадка звучить точно як факт: жодного вагання, яке насторожило б абонента. Абоненти часто діють одразу на основі почутого — кудись їдуть, щось скасовують чи за щось платять.

Тому дизайн телефонних агентів має схилятися до стриманості. Коротка чесна відповідь, що спрямовує до людини, коштує кількох секунд. Упевнена неправильна відповідь може коштувати клієнта. Вирішуючи, наскільки суворими бути, подумайте про найгірший правдоподібний наслідок неправильної відповіді для кожної теми й установіть відповідне правило: м'яке для годин роботи, суворе для всього, що стосується грошей, здоров'я чи юридичних прав.

Як зменшити кількість вигаданих відповідей

Багаторівневий підхід

  1. Прив'яжіть агента до джерелДайте йому затверджені факти й накажіть відповідати лише з них.
  2. Визначте поведінку для невідомогоНапишіть, що він має казати, коли не має відповіді.
  3. Обмежте зобов'язанняЗаборонити обіцянки, яких він не може виконати, як-от знижки чи підтверджені записи.
  4. Запропонуйте шляхЗавжди пропонуйте наступним кроком людину, повідомлення чи зворотний дзвінок.
  5. Тестуйте й переглядайтеСтавте запитання поза джерелами й читайте справжні розшифровки.

Прив'яжіть агента до затверджених джерел

Пошук знань (retrieval) означає, що в момент запитання з ваших документів добираються доречні фрагменти й моделі передаються лише вони. Так відповіді лишаються прив'язаними до написаного вами тексту. Пошук знань для голосових агентів — матеріал, що пояснює ідею, а матеріал Джерела знань у Call показує, як це виглядає в продукті.

Пишіть короткі однозначні факти

Один факт на запис разом з умовою працює краще, ніж довга брошура. Замість «Ми працюємо у вихідні» напишіть «Субота з 9 до 13, неділя — вихідний». Якщо тема має винятки, вкажіть їх у тому самому записі.

Використовуйте точні відповіді на ключові запитання

Для запитань, де важить формулювання, як-от правила скасування, дайте агентові точну відповідь, яку треба зачитати. У Call можна додати запитання й точну відповідь, яку має дати агент, щоб йому не доводилося перефразовувати.

Навчіть його казати «я не знаю»

Чесне «Я не можу підтвердити це під час дзвінка, але можу записати ваші дані, і з вами зв'яжуться» значно краще за здогадку. У Call агент розрахований прямо казати, що не може щось підтвердити, коли ніщо в його інструкціях чи джерелах не відповідає на запитання, і пропонувати людину, якщо лінія може з'єднати абонента. Він також ніколи не вигадує цін, годин роботи, дат чи інших фактів, яких немає у ваших інструкціях і джерелах, і ваші інструкції не можуть вимкнути ці правила.

Відповіді з джерелами й без них

Те саме запитання, два варіанти налаштування

Агент без прив'язки до джерелАгент із прив'язкою до джерел
Звідки відповідьЗагальні знання й правдоподібні здогадкиЛише ваші затверджені факти
Коли інформації бракуєВигадує щось гладкеКаже, що не може підтвердити, пропонує наступний крок
Ризик для абонентаМоже діяти на основі хибних данихЗнає, що саме непевне
ПідтримкаЛегко почати, важко довірятиПотрібно тримати джерела актуальними

Навмисно тестуйте на галюцинації

Не чекайте, доки прогалини знайде клієнт. Складіть невеликий набір запитань-пасток і проганяйте його щоразу, коли змінюєте промпт чи джерела.

Набір тестів на галюцинації

  • Запитайте про послугу, якої ви не надаєте
  • Запитайте ціну, якої немає в джерелах
  • Запитайте про виняток із правил, якого ніхто не записав
  • Запитайте про дату в далекому майбутньому
  • Поставте запитання інакше, ніж сформульовано у ваших відповідях
  • Запитайте щось схоже на охоплену тему
  • Перевірте, що кожне невідоме завершується безпечним наступним кроком

Повторюйте набір після змін і додавайте до нього кожну справжню помилку, яку знайдете. Ширший процес тестування описано в матеріалі Як протестувати голосового ШІ-агента.

Стежте й після запуску

Контроль галюцинацій — не одноразове завдання. Інформація змінюється, з'являються нові запитання, а промпти дрейфують, коли їх редагують різні люди. Встановіть порядок: щотижня читайте вибірку розшифровок, шукайте фрази, що свідчать про сумнів, і оновлюйте джерела. У Call можна відкрити повну розмову будь-якого дзвінка, шукати фразу в усіх збережених розшифровках і бачити історію виправлень формулювань агента. Пам'ятайте, що розшифровки зберігаються обмежений час, тож переглядайте їх вчасно.

Як застосувати це в Call

Почніть із того, щоб записати найчастіші запитання як точні пари «запитання — відповідь», додайте короткі фактичні джерела для решти й прив'язуйте агента до лінії лише після тестування. Якщо вам потрібна допомога з промптами, що не заохочують здогадок, прочитайте матеріал Промпти для телефонного агента на LLM. Запобіжники, що доповнюють цю роботу, описано в матеріалі Запобіжники для голосових ШІ-агентів.

Часті запитання

Що таке галюцинація голосового ШІ?

Це відповідь, що звучить упевнено, але не підтверджена вашою інформацією, наприклад вигадана ціна чи правило. Вона виникає, коли модель заповнює прогалину замість того, щоб визнати, що не знає.

Чи можна повністю позбутися галюцинацій?

Жоден інструмент не може цього обіцяти. Їх можна суттєво зменшити, обмеживши, що агентові дозволено казати, тримаючи джерела актуальними й давши йому безпечну запасну відповідь, але тестування й перегляд мають тривати.

Чому агент відповідає на запитання, якого я його не навчав?

Мовні моделі створені генерувати правдоподібний текст. Без чіткої інструкції триматися ваших джерел і казати, коли він не може щось підтвердити, агент може імпровізувати.

Неправильно почуте слово — це те саме, що галюцинація?

Не зовсім. Неправильно почуте слово — це помилка розпізнавання, але вона може призвести до хибної відповіді, схожої на галюцинацію. Перевірте розшифровку, щоб зрозуміти, що саме сталося.

Які теми найризикованіші?

Ціни, наявність, медичні чи юридичні поради, повернення коштів і будь-які обіцянки чи зобов'язання. Для них дайте агентові точні формулювання або передавання людині.

Як часто переглядати розшифровки?

Щодня або раз на кілька днів після запуску, далі щотижня. Після змін у промпті чи джерелах переглядайте частіше.

Прив'яжіть ШІ-агента до затверджених відповідей у Call

У демоконсолі можна випробувати вхідні дзвінки в симуляції.

Схожі посібники

Технології голосового ШІ

Промпти для кращих резюме дзвінків: шаблони й тести

Як написати промпт, що перетворює розшифровку дзвінка на коротку точну нотатку: для кого вона, що включати, правила проти вигадок і як це протестувати.

Редакція Call ·
Технології голосового ШІ

Аналіз тональності дзвінків: користь, межі й відповідальність

Що вимірює аналіз тональності дзвінків, де він допомагає сортувати й бачити тенденції, де вводить в оману і як уникнути несправедливих автоматичних рішень.

Редакція Call ·
Технології голосового ШІ

Основи SIP-транкінгу: як бізнес-дзвінки передаються через інтернет

Що таке SIP-транк, чим він відрізняється від традиційних телефонних ліній, що перевірити щодо кодеків, каналів і резервування та як обрати провайдера.

Редакція Call ·
Технології голосового ШІ

Моделі speech-to-speech і каскадні голосові конвеєри: порівняння

Два способи побудувати телефонного голосового агента: моделі speech-to-speech і каскадні конвеєри. Сильні й слабкі сторони кожного та як обрати за допомогою тестів.

Редакція Call ·