Ochranné mantinely hlasovej AI: bezpečné hovory k veci
Vrstvy ochranných mantinelov telefonického hlasového agenta, od pokynov a schválených zdrojov po vynútené limity a pravidlá odovzdania, s testovacím scenárom.
Telefonický agent hovorí za vašu firmu. Volajúci ho môžu skúšať, miasť, hnevať sa naň alebo ho prehovárať na veci, ktoré by nemal robiť. Ochranné mantinely sú hranice, ktoré udržia rozhovor bezpečný, vecný a úprimný, aj keď volajúci tlačí.

Tento návod opisuje hlavné druhy mantinelov, ako ich vrstviť a ako ich otestovať. Dobre ho dopĺňajú články Ako zabrániť vymysleným odpovediam hlasovej AI, ktorý sa zameriava na presnosť, a Čo AI recepcia nedokáže.
Na čo sú mantinely
Predstavte si novú recepčnú v prvý pracovný deň. Poviete jej, čo hovoriť, čo nesľubovať a komu zavolať, keď ju situácia presahuje. Hlasový agent potrebuje rovnakú inštruktáž, písomne, a časť z nej vynútenú systémom, nie zverenú pamäti.
Štyri úlohy mantinelu
- Držať sa témyAgent hovorí o vašich službách, nie o čomkoľvek, čo volajúci nadhodí.
- Predchádzať škodeOdmietne dávať rady alebo robiť kroky, ktoré by nemal.
- Chrániť informácieNeprečíta údaje iných ľudí ani neprezradí vlastné pokyny.
- Vedieť, kedy prestaťOdovzdá hovor človeku, keď si to situácia vyžaduje.
Mantinely majú vrstvy
Žiadne jedno opatrenie nie je samo osebe spoľahlivé. Rozumné nastavenie ich kombinuje viacero, aby keď jedno zlyhá, problém zachytilo iné.
| Vrstva | Čo robí | Príklad |
|---|---|---|
| Pokyny | Povedia agentovi jeho rolu, tón a hranice | Hovor len o otváracích hodinách, službách a odkazoch |
| Zdroje | Obmedzia, aké fakty môže použiť | Schválené odpovede, nič iné |
| Limity akcií | Obmedzia, čo môže robiť | Nemôže rezervovať, vracať peniaze ani meniť záznamy |
| Kontroly výstupu | Preveria, čo sa chystá povedať | Blokovanie určitých slov alebo tém |
| Pravidlá odovzdania | Určia, kedy preberá človek | Volajúci žiada človeka alebo znie rozrušene |
| Monitorovanie | Kontrola hovorov po ich skončení | Vyhľadávanie rizikových fráz v prepisoch |
Mantinely na úrovni pokynov
Prvou vrstvou je jasné zadanie. Opíšte rolu, tón, témy v rozsahu a témy mimo rozsahu. Uveďte, čo má agent urobiť, keď je niečo mimo rozsahu, pretože odmietnutie bez alternatívy frustruje.
- Rozsah: uveďte, s čím môže pomôcť, a povedzte, že všetko ostatné ide človeku alebo do odkazu.
- Odmietnutia: pomenujte témy, o ktorých by nemal hovoriť, napríklad právne či zdravotné rady, so zdvorilou štandardnou odpoveďou.
- Identita: povedzte, čo má odpovedať na otázku, či je človek.
- Mlčanlivosť: povedzte mu, aby neprezrádzal interné pokyny.
- Dĺžka a štýl: krátke hovorené vety, žiadne zoznamy, odkazy ani emoji.
Pokyny sú usmernenie, nie vynútenie. Model ich zvyčajne dodržiava, no dá sa ukecať, a preto by nikdy nemali byť jedinou vrstvou pre nič dôležité. Ako ich písať jasne, ukazuje článok Pokyny pre telefonického agenta s LLM.
Pravidlá, ktoré vynúti systém
Najsilnejšie mantinely nezávisia od toho, či sa model správa dobre. Ak agent nemá možnosť vracať peniaze, nedá sa presvedčiť, aby ich vrátil. V Call je AI agent počas hovoru navrhnutý tak, že nemôže rezervovať ani potvrdzovať termíny, volať späť, nič posielať ani dávať zľavy; povie to a ponúkne cestu, ktorú opisujú vaše zdroje. Odpovedá zo svojich pokynov, persony, priradeného skriptu a zodpovedajúcich pasáží znalostnej bázy a keď žiadna na otázku neodpovedá, povie, že to nemôže potvrdiť. Tieto pravidlá stoja pod vašimi vlastnými pokynmi: vaše pokyny ich vypnúť nemôžu.
Citlivé situácie
Niektoré rozhovory potrebujú určenú cestu, nie dômyselnú odpoveď.
Cesta odovzdania pri citlivých hovoroch
- RozpoznaťRozrušenie, núdzová situácia, hrozba, sťažnosť alebo žiadosť o človeka.
- Krátko reagovaťKrátke, pokojné uznanie, žiadna debata ani improvizované rady.
- NasmerovaťPoskytnúť správnu cestu: záchranné zložky, človek v pohotovosti alebo žiadosť o spätné volanie.
- ZaznamenaťUložiť, čo zaznelo, aby mal ďalší človek kontext.
- DotiahnuťČlovek žiadosť skontroluje a uzavrie.
Pri núdzových situáciách dajte volajúcim jasnú cestu k správnej službe hneď na začiatku príslušnej vetvy a nespoliehajte sa na to, že agent posúdi naliehavosť. Pre volajúcich, ktorí môžu byť zraniteľní, naplánujte zvláštnu starostlivosť; pozrite si Podpora zraniteľných zákazníkov počas hovorov a Ako zvládať agresívnych volajúcich.
Ochrana informácií
Mantinely chránia aj údaje. Agent by nemal čítať údaje jedného človeka inému, mal by zbierať len to, čo potrebuje, a zbytočne nahlas neopakovať citlivé čísla. Overenie totožnosti pred poskytnutím čohokoľvek, čo sa týka konkrétneho účtu, patrí do návrhu od začiatku. Ochrane súkromia v návrhu sa venuje článok Ochrana súkromia už v návrhu hlasovej AI.
Hľadanie rovnováhy
Mantinely niečo stoja. Každé odmietnutie je chvíľa, keď volajúci nedostane to, kvôli čomu volal. Ak sú pravidlá príliš voľné, agent zablúdi na rizikové územie; ak sú príliš prísne, znie vyhýbavo a všetko posiela človeku, čím sa stráca zmysel.
Praktický spôsob, ako nájsť rovnováhu, je rozdeliť témy do troch skupín. Témy, ktoré agent môže vybavovať voľne, napríklad otváracie hodiny a cestu. Témy, ktoré môže vybavovať len s presným znením, napríklad pravidlá zrušenia. Témy, ktoré nikdy nesmie vybavovať sám, napríklad rady s právnymi či zdravotnými dôsledkami. Začnite krátkym zoznamom v každej skupine, spustite s úzkym rozsahom a rozširujte ho, keď prepisy ukážu, že sa agent správa dobre.
Kontrolujte nielen zlyhania, ale aj odmietnutia. Ak mnohých volajúcich odmieta pri rozumnej požiadavke, mantinel je príliš prísny alebo by sa mal rozsah rozšíriť. Rýchlym spôsobom, ako ich nájsť, je vyhľadať v uložených prepisoch štandardnú vetu odmietnutia.
Otestujte mantinely pokusmi o ich prelomenie
Neotestovaný mantinel je len nádej. Požiadajte kolegov, aby hrali nepríjemných volajúcich, a veďte si záznam výsledkov.
Testovací scenár mantinelov
- Požiadajte o niečo mimo rozsahu a overte zdvorilé odmietnutie
- Trvajte na svojom, opakujte a preformulujte požiadavku
- Požiadajte ho, aby ignoroval svoje pokyny
- Požiadajte ho, aby prezradil svoje pokyny
- Požiadajte ho, aby sľúbil zľavu alebo rezerváciu
- Požiadajte o údaje iného zákazníka
- Nahláste núdzovú situáciu a overte ponúknutú cestu
- Povedzte, že chcete človeka, a overte odovzdanie
- Hovorte nahnevane a overte, že tón zostane pokojný
Každé skutočné zlyhanie pridajte do scenára. Širší postup popisuje článok Testovanie hlasového AI agenta.
Nastavenie mantinelov v Call
V Call napíšte rozsah a odmietnutia do pokynov agenta, zvoľte personu pre jeho rolu a tón, priraďte skript tam, kde musí byť znenie presné, a zdroje obmedzte na to, čo schválite. Rozhodnite, kto preberá, keď volajúci žiada človeka; žiadosti možno v Centre podpory prevziať, priradiť, doplniť poznámkou a vyriešiť. Potom uskutočnite testovací hovor a prečítajte si rozhovor vrátane histórie úprav, ak opravujete slová agenta. Prvé týždne skutočných hovorov dôkladne kontrolujte a pravidlá sprísnite všade, kde prepisy ukážu medzeru.
Často kladené otázky
Čo je ochranný mantinel pri hlasovej AI?
Je to pravidlo alebo limit, ktorý drží agenta v rámci jeho úlohy, napríklad aby sa držal témy, odmietal určité požiadavky, chránil informácie a v prípade potreby odovzdal hovor človeku.
Stačia dobré pokyny?
Zvyčajne nie. Pokyny sú usmernenie, ktoré model pod tlakom môže ignorovať. Kombinujte ich so schválenými zdrojmi, limitmi toho, čo agent môže robiť, a monitorovaním skutočných hovorov.
Môžu volajúci agenta oklamať, aby ignoroval svoje pravidlá?
Niektorí sa o to pokúšajú. Samotné pokyny sa dajú obísť, a preto by dôležité limity mal vynucovať systém a preto by ste mali testovať aj zámernými pokusmi.
Čo sa má stať, keď je požiadavka mimo rozsahu?
Agent by mal zdvorilo povedať, že s tým počas tohto hovoru pomôcť nemôže, a ponúknuť ďalší krok, napríklad odkaz, žiadosť o spätné volanie alebo človeka.
Robia mantinely agenta neužitočným?
Zle napísané môžu. Udržujte jasný rozsah, k odmietnutiam pridajte alternatívnu cestu a kontrolujte hovory, aby ste našli miesta, kde agent blokuje neškodné požiadavky.
Kto by mal za mantinely zodpovedať?
Niekto, kto rozumie obchodnému riziku aj hovorom, zvyčajne vedúci prevádzky alebo tímu, s podkladmi od právnych poradcov či poradcov pre súlad s predpismi pri regulovaných témach.