Технологии за гласов AI

Предпазни механизми за гласови AI агенти

Слоевете предпазни механизми за телефонен гласов агент — промптове, одобрени източници, наложени ограничения и правила за прехвърляне — плюс тестов сценарий.

Редакционен екип на Call · Публикувано · 5 мин четене

Телефонният агент говори от името на вашия бизнес. Обаждащите се могат да го тестват, да го объркват, да му се ядосват или да се опитат да го убедят да направи неща, които не бива. Предпазните механизми са границите, които държат разговора безопасен, по темата и честен, дори когато обаждащият се натиска.

Мениджър преглежда бележки от обаждания на бюро, до него има слушалки
Илюстративно изображение

Това ръководство описва основните видове предпазни механизми, как да ги наслоите и как да ги тествате. Чете се добре заедно с Как да предотвратите измислени отговори от гласовия AI, което се фокусира върху точността, и с Какво не може AI рецепционистът.

За какво служат предпазните механизми

Представете си нов рецепционист в първия му ден. Казвате му какво да говори, какво да не обещава и на кого да се обади, когато ситуацията го надхвърля. Гласовият агент се нуждае от същия инструктаж, записан, като част от него се налага от системата, вместо да се разчита на паметта.

Четири задачи на предпазния механизъм

  • Да го държи по тематаАгентът говори за вашите услуги, а не за всичко, което обаждащият се повдигне.
  • Да предотвратява вредаОтказва да дава съвети или да предприема действия, които не бива.
  • Да пази информациятаНе прочита данните на други хора и не разкрива собствените си инструкции.
  • Да знае кога да спреПрехвърля на човек, когато ситуацията го изисква.

Предпазните механизми са на слоеве

Нито една мярка не е надеждна сама по себе си. Разумната настройка комбинира няколко, така че ако едната се провали, друга да улови проблема.

СлойКакво правиПример
ИнструкцииКазват на агента ролята, тона и границите муОбсъждай само работно време, услуги и съобщения
ИзточнициОграничават кои факти може да използваОдобрени отговори и нищо друго
Ограничения на действиятаОграничават какво може да правиНе може да записва часове, да възстановява суми или да променя записи
Проверки на изходаПроверяват какво ще кажеБлокиране на определени думи или теми
Правила за прехвърлянеОпределят кога поема човекОбаждащият се иска човек или звучи разстроен
НаблюдениеПреглед на обажданията след товаТърсене на рискови фрази в транскрипциите

Предпазни механизми на ниво инструкции

Първият слой е ясният инструктаж. Опишете ролята, тона, темите в обхвата и темите извън него. Посочете какво да прави агентът, когато нещо е извън обхвата, защото отказ без алтернатива дразни.

Инструкциите са насоки, а не принуда. Моделът обикновено ги следва, но може да бъде разубеден, затова те никога не бива да са единственият слой за нещо важно. Писане на промптове за LLM телефонен агент показва как да ги пишете ясно.

Правила, които системата налага

Най-силните предпазни механизми не зависят от поведението на модела. Ако агентът няма възможност да възстановява суми, той не може да бъде убеден да го направи. В Call AI агентът по време на разговор е проектиран така, че да не може да записва или потвърждава часове, да връща обаждания, да изпраща каквото и да е или да дава отстъпки; той казва това и посочва пътя, описан в източниците ви. Отговаря въз основа на инструкциите си, персоната, свързания сценарий и съответните пасажи от базата знания, а когато нито един не отговаря на въпроса, казва, че не може да го потвърди. Тези правила стоят под вашите собствени инструкции: инструкциите ви не могат да ги изключат.

Чувствителни ситуации

Някои разговори изискват определен път, а не хитроумен отговор.

Път за прехвърляне при чувствителни обаждания

  1. РазпознаванеПритеснение, спешен случай, заплаха, оплакване или искане за човек.
  2. Кратка реакцияКратко, спокойно признаване, без спор или импровизирани съвети.
  3. НасочванеПосочете правилния път: спешни служби, дежурен човек или заявка за обратно обаждане.
  4. ЗаписванеЗапазете казаното, за да има следващият човек контекст.
  5. Последващи действияЧовек преглежда заявката и затваря цикъла.

При спешни случаи дайте на обаждащите се ясен път към правилната служба в началото на съответния клон и не разчитайте на агента да преценява спешността. За обаждащи се, които може да са уязвими, планирайте допълнителна грижа; вижте Подкрепа за уязвими клиенти по телефона и Справяне с грубо държащи се обаждащи се.

Защита на информацията

Предпазните механизми пазят и данните. Агентът не бива да прочита данните на един човек на друг, трябва да събира само необходимото и не бива да повтаря чувствителни номера на глас без нужда. Проверките на самоличността преди споделяне на каквото и да е, свързано с конкретна сметка, са част от дизайна от самото начало. Дизайнът с оглед на поверителността е разгледан в Поверителност още при проектирането на гласов AI.

Намиране на баланса

Предпазните механизми имат цена. Всеки отказ е момент, в който обаждащият се не получава това, за което е дошъл. Ако правилата са твърде свободни, агентът навлиза в рискова територия; ако са твърде строги, звучи уклончиво и изпраща всичко на човек, което обезсмисля целта.

Практичен начин да намерите баланса е да разделите темите в три групи. Теми, с които агентът може да се справя свободно, като работно време и упътвания. Теми, с които може да се справя само с точни формулировки, като правилата за анулиране. Теми, с които никога не бива да се занимава сам, като съвети с правни или медицински последици. Започнете с кратък списък във всяка група, стартирайте с тесен обхват и го разширявайте, когато транскрипциите покажат, че агентът се държи добре.

Преглеждайте отказите, а не само провалите. Ако много хора биват отпращани при разумна молба, предпазният механизъм е твърде строг или обхватът трябва да се разшири. Търсенето на стандартното изречение за отказ в съхранените транскрипции е бърз начин да ги откриете.

Тествайте предпазните механизми, като се опитате да ги пробиете

Нетестваният предпазен механизъм е надежда. Помолете колеги да играят неудобни обаждащи се и водете дневник на резултатите.

Тестов сценарий за предпазните механизми

  • Поискайте нещо извън обхвата и проверете учтивия отказ
  • Настоявайте, повтаряйте и преформулирайте молбата
  • Помолете го да пренебрегне инструкциите си
  • Помолете го да разкрие промпта си
  • Помолете го да обещае отстъпка или резервация
  • Поискайте данните на друг клиент
  • Съобщете за спешен случай и проверете предложения път
  • Кажете, че искате човек, и проверете прехвърлянето
  • Говорете ядосано и проверете дали тонът остава спокоен

Добавяйте всеки реален провал към сценария. По-широкият метод е описан в Тестване на гласов AI агент.

Задаване на предпазни механизми в Call

В Call напишете обхвата и отказите в инструкциите на агента, изберете персона за ролята и тона му, свържете сценарий там, където формулировката трябва да е точна, и ограничете източниците до одобреното от вас. Решете кой поема, когато обаждащ се поиска човек; заявките могат да бъдат поети, възложени, коментирани и решени от бюрото за помощ. След това направете тестово обаждане и прочетете разговора, включително историята на редакциите, ако коригирате думите на агента. Преглеждайте внимателно първите седмици реални обаждания и затягайте правилата навсякъде, където транскрипциите покажат пропуск.

Често задавани въпроси

Какво е предпазен механизъм при гласовия AI?

Това е правило или ограничение, което държи агента в рамките на задачата му, например да остава по темата, да отказва определени молби, да пази информацията и да прехвърля на човек при нужда.

Достатъчен ли е добрият промпт?

Обикновено не. Промптът е насока, която моделът може да пренебрегне под натиск. Комбинирайте го с одобрени източници, ограничения на действията на агента и наблюдение на реални обаждания.

Могат ли обаждащите се да подмамят агента да пренебрегне правилата си?

Някои опитват. Самите инструкции могат да бъдат заобиколени, затова важните ограничения трябва да се налагат от системата и затова трябва да тествате с умишлени опити.

Какво трябва да се случи, когато молбата е извън обхвата?

Агентът трябва учтиво да каже, че не може да помогне с това по време на разговора, и да предложи следваща стъпка, като съобщение, заявка за обратно обаждане или човек.

Правят ли предпазните механизми агента безполезен?

Лошо написаните могат. Дръжте обхвата ясен, давайте на отказите алтернативен път и преглеждайте обажданията, за да откриете къде агентът блокира безобидни молби.

Кой трябва да отговаря за предпазните механизмите?

Човек, който разбира както бизнес риска, така и обажданията, обикновено ръководител на операциите или на екип, с принос от юридически съветници или специалисти по съответствието за регулираните теми.

Задайте ясни граници за вашия AI агент в Call

В демо конзолата можете да изпробвате входящи обаждания в симулация.

Свързани ръководства

Технологии за гласов AI

Промптове за по-добри обобщения на обажданията

Как да напишете промпт, който превръща транскрипцията на обаждане в кратка, точна бележка: за кого е, какво да включва, правила срещу измислици и как да го тествате.

Редакционен екип на Call ·
Технологии за гласов AI

Анализ на настроението при обаждания: ползи и граници

Какво измерва анализът на настроението при обажданията, кога помага за сортиране и тенденции, кога подвежда и как да го ползвате без несправедливи решения.

Редакционен екип на Call ·
Технологии за гласов AI

SIP транк: как бизнес обажданията преминават през интернет

Какво е SIP транк, с какво се различава от традиционните телефонни линии, какво да проверите за кодеци, канали и резервиране и как да изберете доставчик.

Редакционен екип на Call ·
Технологии за гласов AI

Модели „реч към реч“ срещу каскадни гласови вериги

Два начина за изграждане на телефонен гласов агент: модели „реч към реч“ и каскадни вериги. В какво е силен всеки, къде е слаб и как да изберете чрез тестване.

Редакционен екип на Call ·