Технології голосового ШІ

Запобіжники для голосових ШІ-агентів: безпечні дзвінки по суті

Рівні запобіжників для телефонного голосового агента — від промптів і затверджених джерел до обов'язкових обмежень і правил передавання, а також тестовий сценарій.

Редакція Call · Опубліковано · Читати 5 хв

Телефонний агент говорить від імені вашого бізнесу. Абоненти можуть його перевіряти, плутати, гніватися на нього чи намагатися вмовити на те, чого він робити не повинен. Запобіжники — це межі, що зберігають розмову безпечною, предметною й чесною, навіть коли абонент тисне.

Керівник переглядає нотатки дзвінків за столом, поруч лежить гарнітура
Ілюстрація

Цей посібник описує основні види запобіжників, як вибудовувати їх рівнями і як тестувати. Він добре доповнює матеріал Як запобігти вигаданим відповідям голосового ШІ, присвячений точності, і матеріал Чого ШІ-секретар не вміє.

Навіщо потрібні запобіжники

Уявіть нового адміністратора в перший робочий день. Ви кажете йому, що говорити, чого не обіцяти й кого кликати, коли ситуація виходить за межі його компетенції. Голосовому агентові потрібен такий самий інструктаж, записаний письмово, і частину його має забезпечувати система, а не пам'ять.

Чотири завдання запобіжника

  • Тримати розмову в теміАгент говорить про ваші послуги, а не про будь-що, що спаде на думку абонентові.
  • Запобігати шкодіВін відмовляється давати поради чи виконувати дії, яких не повинен.
  • Захищати інформаціюВін не зачитує чужих даних і не розкриває власних інструкцій.
  • Знати, коли зупинитисяВін передає розмову людині, коли цього вимагає ситуація.

Запобіжники вибудовуються рівнями

Жоден окремий захід сам по собі не надійний. Розумне налаштування поєднує кілька, щоб, якщо один не спрацює, проблему перехопив інший.

РівеньЩо робитьПриклад
ІнструкціїПояснюють агентові його роль, тон і межіОбговорювати лише години роботи, послуги й повідомлення
ДжерелаОбмежують факти, якими він може користуватисяЗатверджені відповіді й нічого більше
Обмеження дійОбмежують, що він може робитиВін не може записувати, повертати кошти чи змінювати записи в базі
Перевірки відповідейПеревіряють, що він збирається сказатиБлокувати певні слова чи теми
Правила передаванняВизначають, коли розмову бере людинаАбонент просить людину або звучить стривожено
МоніторингПерегляд дзвінків постфактумПошук ризикованих фраз у розшифровках

Запобіжники на рівні інструкцій

Перший рівень — чіткий бриф. Опишіть роль, тон, теми в межах завдання й поза ними. Укажіть, що агент має робити, коли щось поза межами, бо відмова без альтернативи дратує.

Інструкції — це настанови, а не примус. Модель зазвичай їх дотримується, але її можна вмовити, тому для будь-чого важливого вони ніколи не мають бути єдиним рівнем. Промпти для телефонного агента на LLM — матеріал, що показує, як писати їх чітко.

Правила, які забезпечує система

Найсильніші запобіжники не залежать від поведінки моделі. Якщо агент не має можливості повертати кошти, його неможливо вмовити це зробити. У Call ШІ-агент під час дзвінка розрахований так, що не може записувати чи підтверджувати візити, передзвонювати, щось надсилати чи надавати знижки; він прямо про це каже й пропонує шлях, описаний у ваших джерелах. Він відповідає зі своїх інструкцій, персони, прив'язаного скрипту й відповідних фрагментів бази знань, а коли жодне з цього не відповідає на запитання, каже, що не може цього підтвердити. Ці правила стоять під вашими власними інструкціями: ваші інструкції не можуть їх вимкнути.

Делікатні ситуації

Деякі розмови потребують визначеного маршруту, а не дотепної відповіді.

Шлях передавання для делікатних дзвінків

  1. РозпізнатиСтрес, екстрена ситуація, погроза, скарга чи прохання з'єднати з людиною.
  2. Коротко відреагуватиКоротке спокійне визнання, без суперечок чи імпровізованих порад.
  3. СпрямуватиДати правильний шлях: екстрені служби, черговий працівник чи запит на зворотний дзвінок.
  4. ЗафіксуватиЗберегти сказане, щоб наступна людина мала контекст.
  5. Довести до кінцяЛюдина переглядає запит і закриває його.

На випадок екстрених ситуацій дайте абонентам чіткий шлях до потрібної служби на початку відповідної гілки й не покладайтеся на те, що агент сам оцінить терміновість. Для абонентів, які можуть бути вразливими, плануйте особливу увагу; дивіться матеріали Підтримка вразливих клієнтів під час дзвінків і Як поводитися з образливими абонентами.

Захист інформації

Запобіжники захищають і дані. Агент не повинен зачитувати дані однієї людини іншій, має збирати лише потрібне й не повторювати вголос делікатні номери без потреби. Перевірки особи перед наданням будь-якої інформації щодо облікового запису мають бути закладені в дизайн від самого початку. Дизайн приватності розглянуто в матеріалі Приватність за задумом для голосового ШІ.

Як знайти баланс

Запобіжники мають ціну. Кожна відмова — це момент, коли абонент не отримує того, по що телефонував. Задайте надто м'які правила — і агент забреде на ризиковану територію; надто суворі — і він звучатиме ухильно й передаватиме все людям, що зводить нанівець увесь задум.

Практичний спосіб знайти баланс — розподілити теми на три групи. Теми, з якими агент може працювати вільно, як-от години роботи й дорога. Теми, з якими він може працювати лише за точними формулюваннями, як-от правила скасування. Теми, з якими він ніколи не має працювати сам, як-от поради з юридичними чи медичними наслідками. Почніть із короткого переліку в кожній групі, запускайтеся з вузьким колом завдань і розширюйте його, коли розшифровки покажуть, що агент поводиться добре.

Переглядайте не лише помилки, а й відмови. Якщо багатьом абонентам відмовляють у розумному проханні, запобіжник надто суворий або коло завдань варто розширити. Пошук стандартного речення відмови в збережених розшифровках — швидкий спосіб їх знайти.

Тестуйте запобіжники, намагаючись їх зламати

Неперевірений запобіжник — лише надія. Попросіть колег зіграти незручних абонентів і ведіть журнал результатів.

Тестовий сценарій для запобіжників

  • Попросіть щось поза межами завдання й перевірте ввічливу відмову
  • Наполягайте, повторюйте й переформульовуйте прохання
  • Попросіть його ігнорувати свої інструкції
  • Попросіть його розкрити свій промпт
  • Попросіть пообіцяти знижку чи запис
  • Попросіть дані іншого клієнта
  • Повідомте про екстрену ситуацію й перевірте запропонований шлях
  • Скажіть, що хочете поговорити з людиною, і перевірте передавання
  • Говоріть сердито й перевірте, чи тон лишається спокійним

Додавайте до сценарію кожну справжню помилку. Ширший метод описано в матеріалі Як протестувати голосового ШІ-агента.

Налаштування запобіжників у Call

У Call пропишіть межі завдання й відмови в інструкціях агента, виберіть персону для його ролі й тону, прив'яжіть скрипт там, де формулювання мають бути точними, і обмежте джерела тим, що ви затвердили. Вирішіть, хто відповідає, коли абонент просить людину; запити можна брати, призначати, доповнювати нотатками й закривати в службі підтримки. Потім зробіть тестовий дзвінок і прочитайте розмову, зокрема історію правок, якщо ви виправляєте формулювання агента. Уважно переглядайте справжні дзвінки перших тижнів і посилюйте правила там, де розшифровки показують прогалину.

Часті запитання

Що таке запобіжник у голосовому ШІ?

Це правило чи обмеження, що тримає агента в межах його завдання: не відходити від теми, відмовляти в певних проханнях, захищати інформацію й передавати розмову людині, коли потрібно.

Чи достатньо доброго промпту?

Зазвичай ні. Промпт — це настанова, яку модель може проігнорувати, якщо на неї тиснути. Поєднуйте його із затвердженими джерелами, обмеженнями на дії агента й моніторингом справжніх дзвінків.

Чи можуть абоненти обманом змусити агента порушити правила?

Дехто намагається. Самі інструкції можна обійти, тому важливі обмеження має забезпечувати система, а тестувати варто навмисними спробами.

Що має відбуватися, коли прохання поза межами завдання?

Агент має ввічливо сказати, що не може допомогти з цим під час дзвінка, і запропонувати наступний крок: повідомлення, запит на зворотний дзвінок чи людину.

Чи не роблять запобіжники агента некорисним?

Погано написані — можуть. Тримайте межі завдання чіткими, давайте до відмов альтернативний шлях і переглядайте дзвінки, щоб знайти місця, де агент блокує нешкідливі прохання.

Хто має відповідати за запобіжники?

Людина, яка розуміє і бізнес-ризики, і дзвінки, — зазвичай керівник операцій чи команди, а для регульованих тем — із залученням юристів чи фахівців з комплаєнсу.

Задайте чіткі межі для ШІ-агента в Call

У демоконсолі можна випробувати вхідні дзвінки в симуляції.

Схожі посібники

Технології голосового ШІ

Промпти для кращих резюме дзвінків: шаблони й тести

Як написати промпт, що перетворює розшифровку дзвінка на коротку точну нотатку: для кого вона, що включати, правила проти вигадок і як це протестувати.

Редакція Call ·
Технології голосового ШІ

Аналіз тональності дзвінків: користь, межі й відповідальність

Що вимірює аналіз тональності дзвінків, де він допомагає сортувати й бачити тенденції, де вводить в оману і як уникнути несправедливих автоматичних рішень.

Редакція Call ·
Технології голосового ШІ

Основи SIP-транкінгу: як бізнес-дзвінки передаються через інтернет

Що таке SIP-транк, чим він відрізняється від традиційних телефонних ліній, що перевірити щодо кодеків, каналів і резервування та як обрати провайдера.

Редакція Call ·
Технології голосового ШІ

Моделі speech-to-speech і каскадні голосові конвеєри: порівняння

Два способи побудувати телефонного голосового агента: моделі speech-to-speech і каскадні конвеєри. Сильні й слабкі сторони кожного та як обрати за допомогою тестів.

Редакція Call ·