Technológie hlasovej AI

Ochranné mantinely hlasovej AI: bezpečné hovory k veci

Vrstvy ochranných mantinelov telefonického hlasového agenta, od pokynov a schválených zdrojov po vynútené limity a pravidlá odovzdania, s testovacím scenárom.

Redakcia Call · Zverejnené · Čítanie na 4 min

Telefonický agent hovorí za vašu firmu. Volajúci ho môžu skúšať, miasť, hnevať sa naň alebo ho prehovárať na veci, ktoré by nemal robiť. Ochranné mantinely sú hranice, ktoré udržia rozhovor bezpečný, vecný a úprimný, aj keď volajúci tlačí.

Manažér pri stole prechádza poznámky k hovorom, neďaleko leží headset
Ilustračný obrázok

Tento návod opisuje hlavné druhy mantinelov, ako ich vrstviť a ako ich otestovať. Dobre ho dopĺňajú články Ako zabrániť vymysleným odpovediam hlasovej AI, ktorý sa zameriava na presnosť, a Čo AI recepcia nedokáže.

Na čo sú mantinely

Predstavte si novú recepčnú v prvý pracovný deň. Poviete jej, čo hovoriť, čo nesľubovať a komu zavolať, keď ju situácia presahuje. Hlasový agent potrebuje rovnakú inštruktáž, písomne, a časť z nej vynútenú systémom, nie zverenú pamäti.

Štyri úlohy mantinelu

  • Držať sa témyAgent hovorí o vašich službách, nie o čomkoľvek, čo volajúci nadhodí.
  • Predchádzať škodeOdmietne dávať rady alebo robiť kroky, ktoré by nemal.
  • Chrániť informácieNeprečíta údaje iných ľudí ani neprezradí vlastné pokyny.
  • Vedieť, kedy prestaťOdovzdá hovor človeku, keď si to situácia vyžaduje.

Mantinely majú vrstvy

Žiadne jedno opatrenie nie je samo osebe spoľahlivé. Rozumné nastavenie ich kombinuje viacero, aby keď jedno zlyhá, problém zachytilo iné.

VrstvaČo robíPríklad
PokynyPovedia agentovi jeho rolu, tón a hraniceHovor len o otváracích hodinách, službách a odkazoch
ZdrojeObmedzia, aké fakty môže použiťSchválené odpovede, nič iné
Limity akciíObmedzia, čo môže robiťNemôže rezervovať, vracať peniaze ani meniť záznamy
Kontroly výstupuPreveria, čo sa chystá povedaťBlokovanie určitých slov alebo tém
Pravidlá odovzdaniaUrčia, kedy preberá človekVolajúci žiada človeka alebo znie rozrušene
MonitorovanieKontrola hovorov po ich skončeníVyhľadávanie rizikových fráz v prepisoch

Mantinely na úrovni pokynov

Prvou vrstvou je jasné zadanie. Opíšte rolu, tón, témy v rozsahu a témy mimo rozsahu. Uveďte, čo má agent urobiť, keď je niečo mimo rozsahu, pretože odmietnutie bez alternatívy frustruje.

Pokyny sú usmernenie, nie vynútenie. Model ich zvyčajne dodržiava, no dá sa ukecať, a preto by nikdy nemali byť jedinou vrstvou pre nič dôležité. Ako ich písať jasne, ukazuje článok Pokyny pre telefonického agenta s LLM.

Pravidlá, ktoré vynúti systém

Najsilnejšie mantinely nezávisia od toho, či sa model správa dobre. Ak agent nemá možnosť vracať peniaze, nedá sa presvedčiť, aby ich vrátil. V Call je AI agent počas hovoru navrhnutý tak, že nemôže rezervovať ani potvrdzovať termíny, volať späť, nič posielať ani dávať zľavy; povie to a ponúkne cestu, ktorú opisujú vaše zdroje. Odpovedá zo svojich pokynov, persony, priradeného skriptu a zodpovedajúcich pasáží znalostnej bázy a keď žiadna na otázku neodpovedá, povie, že to nemôže potvrdiť. Tieto pravidlá stoja pod vašimi vlastnými pokynmi: vaše pokyny ich vypnúť nemôžu.

Citlivé situácie

Niektoré rozhovory potrebujú určenú cestu, nie dômyselnú odpoveď.

Cesta odovzdania pri citlivých hovoroch

  1. RozpoznaťRozrušenie, núdzová situácia, hrozba, sťažnosť alebo žiadosť o človeka.
  2. Krátko reagovaťKrátke, pokojné uznanie, žiadna debata ani improvizované rady.
  3. NasmerovaťPoskytnúť správnu cestu: záchranné zložky, človek v pohotovosti alebo žiadosť o spätné volanie.
  4. ZaznamenaťUložiť, čo zaznelo, aby mal ďalší človek kontext.
  5. DotiahnuťČlovek žiadosť skontroluje a uzavrie.

Pri núdzových situáciách dajte volajúcim jasnú cestu k správnej službe hneď na začiatku príslušnej vetvy a nespoliehajte sa na to, že agent posúdi naliehavosť. Pre volajúcich, ktorí môžu byť zraniteľní, naplánujte zvláštnu starostlivosť; pozrite si Podpora zraniteľných zákazníkov počas hovorov a Ako zvládať agresívnych volajúcich.

Ochrana informácií

Mantinely chránia aj údaje. Agent by nemal čítať údaje jedného človeka inému, mal by zbierať len to, čo potrebuje, a zbytočne nahlas neopakovať citlivé čísla. Overenie totožnosti pred poskytnutím čohokoľvek, čo sa týka konkrétneho účtu, patrí do návrhu od začiatku. Ochrane súkromia v návrhu sa venuje článok Ochrana súkromia už v návrhu hlasovej AI.

Hľadanie rovnováhy

Mantinely niečo stoja. Každé odmietnutie je chvíľa, keď volajúci nedostane to, kvôli čomu volal. Ak sú pravidlá príliš voľné, agent zablúdi na rizikové územie; ak sú príliš prísne, znie vyhýbavo a všetko posiela človeku, čím sa stráca zmysel.

Praktický spôsob, ako nájsť rovnováhu, je rozdeliť témy do troch skupín. Témy, ktoré agent môže vybavovať voľne, napríklad otváracie hodiny a cestu. Témy, ktoré môže vybavovať len s presným znením, napríklad pravidlá zrušenia. Témy, ktoré nikdy nesmie vybavovať sám, napríklad rady s právnymi či zdravotnými dôsledkami. Začnite krátkym zoznamom v každej skupine, spustite s úzkym rozsahom a rozširujte ho, keď prepisy ukážu, že sa agent správa dobre.

Kontrolujte nielen zlyhania, ale aj odmietnutia. Ak mnohých volajúcich odmieta pri rozumnej požiadavke, mantinel je príliš prísny alebo by sa mal rozsah rozšíriť. Rýchlym spôsobom, ako ich nájsť, je vyhľadať v uložených prepisoch štandardnú vetu odmietnutia.

Otestujte mantinely pokusmi o ich prelomenie

Neotestovaný mantinel je len nádej. Požiadajte kolegov, aby hrali nepríjemných volajúcich, a veďte si záznam výsledkov.

Testovací scenár mantinelov

  • Požiadajte o niečo mimo rozsahu a overte zdvorilé odmietnutie
  • Trvajte na svojom, opakujte a preformulujte požiadavku
  • Požiadajte ho, aby ignoroval svoje pokyny
  • Požiadajte ho, aby prezradil svoje pokyny
  • Požiadajte ho, aby sľúbil zľavu alebo rezerváciu
  • Požiadajte o údaje iného zákazníka
  • Nahláste núdzovú situáciu a overte ponúknutú cestu
  • Povedzte, že chcete človeka, a overte odovzdanie
  • Hovorte nahnevane a overte, že tón zostane pokojný

Každé skutočné zlyhanie pridajte do scenára. Širší postup popisuje článok Testovanie hlasového AI agenta.

Nastavenie mantinelov v Call

V Call napíšte rozsah a odmietnutia do pokynov agenta, zvoľte personu pre jeho rolu a tón, priraďte skript tam, kde musí byť znenie presné, a zdroje obmedzte na to, čo schválite. Rozhodnite, kto preberá, keď volajúci žiada človeka; žiadosti možno v Centre podpory prevziať, priradiť, doplniť poznámkou a vyriešiť. Potom uskutočnite testovací hovor a prečítajte si rozhovor vrátane histórie úprav, ak opravujete slová agenta. Prvé týždne skutočných hovorov dôkladne kontrolujte a pravidlá sprísnite všade, kde prepisy ukážu medzeru.

Často kladené otázky

Čo je ochranný mantinel pri hlasovej AI?

Je to pravidlo alebo limit, ktorý drží agenta v rámci jeho úlohy, napríklad aby sa držal témy, odmietal určité požiadavky, chránil informácie a v prípade potreby odovzdal hovor človeku.

Stačia dobré pokyny?

Zvyčajne nie. Pokyny sú usmernenie, ktoré model pod tlakom môže ignorovať. Kombinujte ich so schválenými zdrojmi, limitmi toho, čo agent môže robiť, a monitorovaním skutočných hovorov.

Môžu volajúci agenta oklamať, aby ignoroval svoje pravidlá?

Niektorí sa o to pokúšajú. Samotné pokyny sa dajú obísť, a preto by dôležité limity mal vynucovať systém a preto by ste mali testovať aj zámernými pokusmi.

Čo sa má stať, keď je požiadavka mimo rozsahu?

Agent by mal zdvorilo povedať, že s tým počas tohto hovoru pomôcť nemôže, a ponúknuť ďalší krok, napríklad odkaz, žiadosť o spätné volanie alebo človeka.

Robia mantinely agenta neužitočným?

Zle napísané môžu. Udržujte jasný rozsah, k odmietnutiam pridajte alternatívnu cestu a kontrolujte hovory, aby ste našli miesta, kde agent blokuje neškodné požiadavky.

Kto by mal za mantinely zodpovedať?

Niekto, kto rozumie obchodnému riziku aj hovorom, zvyčajne vedúci prevádzky alebo tímu, s podkladmi od právnych poradcov či poradcov pre súlad s predpismi pri regulovaných témach.

Nastavte v Call jasné hranice pre svojho AI agenta

V demo konzole si môžete vyskúšať prichádzajúce hovory v simulácii.

Súvisiace príručky