Technológie hlasovej AI

Keď hlasový agent vyhľadáva: nástroje a volania funkcií

Ako funguje volanie funkcií pri telefonických hlasových agentoch: vyhľadávanie verzus akcie, čo robí nástroj dobrým, riziká hovoreného vstupu a prirodzený hovor.

Redakcia Call · Zverejnené · Čítanie na 5 min

Informácie, ktoré sa menia každú hodinu, nemôžu byť v pokynoch. Stav objednávky, stav zásob alebo voľný termín platia len na chvíľu. Aby hlasový agent mohol také fakty použiť, potrebuje spôsob, ako sa opýtať iného systému, a tento mechanizmus sa zvyčajne nazýva volanie funkcií alebo používanie nástrojov.

Pracovník podpory počas hovoru overuje informácie na obrazovke
Ilustračný obrázok

Tento návod jednoducho vysvetľuje, ako to funguje, čo robí nástroj dobrým, kde sú riziká a ako to súvisí s tým, ako dnes fungujú AI agenti v Call. Súvislosti o samotnom hlasovom reťazci nájdete v článku Ako funguje hlasová AI počas telefonického hovoru.

Ako funguje volanie nástroja

Jazykový model píše text. Nedokáže otvoriť databázu ani stlačiť tlačidlo. Volanie funkcií je dohoda: modelu opíšete súbor funkcií s názvom, účelom a vstupmi, ktoré každá očakáva, a model môže odpovedať požiadavkou na použitie niektorej z nich.

Život volania nástroja

  1. Volajúci sa pýtaNapríklad: kde je moja objednávka?
  2. Model navrhne volanieVráti názov funkcie a argumenty, napríklad číslo objednávky.
  3. Váš softvér overíSkontroluje argumenty, oprávnenie volajúceho a prípadné limity.
  4. Systém ho spustíZisťuje stav v systéme objednávok a dostane výsledok.
  5. Výsledok sa vráti modeluModel premení údaje na krátku hovorenú odpoveď.

Podstatné je, že akciu vykonáva váš softvér, nie model. Získate tak miesto, kde môžete vynucovať pravidlá, zaznamenávať, čo sa stalo, a odmietnuť čokoľvek nerozumné.

Vyhľadávanie verzus akcie

Nie všetky nástroje nesú rovnaké riziko. Vyhľadávanie číta informácie. Akcia niečo vo svete mení. Pristupujte k nim rozdielne.

Vyhľadávanie len na čítanie verzus akcie, ktoré niečo menia

VyhľadávanieAkcia
PríkladyOtváracie hodiny, stav objednávky, dĺžka frontyZrušenie rezervácie, vrátenie peňazí, zmena adresy
Riziko pri chybeNesprávna odpoveď, ktorú možno opraviťZmena, ktorú môže byť ťažké vrátiť
Typické poistkyOverenie totožnosti, obmedzené poliaKrok potvrdenia, schválenie človekom, auditný záznam
Dobrý začiatok?ÁnoAž keď vyhľadávanie funguje dobre

Opatrná cesta je spustiť len s vyhľadávaním, sledovať skutočné hovory a akcie pridávať pomaly, pričom čokoľvek s dôsledkami potvrdzuje človek. Je to rovnaký prístup, z akého vychádza článok Ochranné mantinely pre hlasových AI agentov.

Čo robí nástroj dobrým

Na názvoch a popisoch záleží

Model vyberá nástroje podľa názvov a popisov, ktoré im dáte. Vágne formulácie vedú k nesprávnej voľbe. Popisy píšte ako pokyny pre nového kolegu: kedy nástroj použiť, kedy nie a čo znamená každý vstup.

Hovorený vstup je chaotický

Argumenty pochádzajú z reči. Číslo objednávky môže prísť s chybnou číslicou alebo meno s nezvyčajným pravopisom. Kľúčové hodnoty pred použitím prečítajte volajúcemu späť a nástroj navrhnite tak, aby pri tesných omyloch vrátil užitočný výsledok. Techniky potvrdzovania podrobne popisuje článok Ako správne zachytiť mená, čísla a adresy hlasom.

Riziká, s ktorými treba v návrhu počítať

Kde sa používanie nástrojov pokazí

  • Nesprávny nástroj alebo argumentyModel zle pochopí požiadavku, preto pred spustením všetko overte.
  • Príliš veľa informáciíVyhľadávanie vráti viac, než by volajúci mal počuť, preto vracajte len to, čo je potrebné.
  • Neoverená totožnosťČítanie údajov účtu nesprávnemu človeku, preto pred zverejnením overujte.
  • Pomalé alebo zlyhávajúce systémyHluché ticho alebo mätúca chyba, preto nastavte časové limity a hovorené náhradné odpovede.
  • Podstrčené pokynyText z výsledku vyhľadávania, ktorý sa snaží modelu rozkazovať, preto s výsledkami zaobchádzajte len ako s údajmi.

Každé riziko má technické riešenie, no najbezpečnejšou zásadou návrhu je dať agentovi najmenší prístup, ktorý na úlohu stačí. Nedávajte mu všeobecné pripojenie k databáze, keď stačí jediné úzke vyhľadávanie.

Ako udržať hovor prirodzený

Volanie nástroja pridáva čas: model rozhodne, váš systém odpovie, model napíše odpoveď a vytvorí sa reč. Volajúci počuje ticho. Pomáha veľmi krátke potvrdenie pred vyhľadávaním, ukladanie hodnôt, ktoré sa zriedka menia, do vyrovnávacej pamäte a obmedzenie každej repliky na jedno volanie nástroja. Odkiaľ oneskorenie pochádza, popisuje článok Latencia hlasovej AI. Ak vyhľadávanie zlyhá alebo vyprší, agent by to mal krátko povedať a ponúknuť odkaz alebo človeka namiesto čakania.

Modelový príklad krok za krokom

Predstavte si hypotetický obchod s nábytkom, ktorého agent odpovedá na otázky o doručení. Obchod definuje jeden nástroj len na čítanie, ktorý prijme číslo objednávky a vráti stav a časové okno doručenia. Agent má pokyn použiť ho až potom, čo volajúci uvedie číslo objednávky a potvrdí ho po prečítaní späť.

  1. Volajúci povie, že čaká na pohovku, a uvedie číslo objednávky.
  2. Agent prečíta číslo späť po skupinách a volajúci ho potvrdí.
  3. Nástroj vráti stav na ceste k zákazníkovi a okno popoludní.
  4. Agent povie, že objednávka je na ceste a mala by doraziť dnes popoludní, a potom sa opýta, či ešte niečo potrebuje.
  5. Ak nástroj vráti nenájdené, agent povie, že túto objednávku nevie nájsť, a ponúkne zapísanie odkazu pre tím.

Všimnite si, čo chýba: agent nemôže doručenie preplánovať. Ak volajúci chce iný deň, agent prijme žiadosť a vybaví ju tím. Začiatok s takýmto úzkym, bezpečným nástrojom vás naučí, ako volajúci naozaj hovoria, skôr než rozsah rozšírite. Uchovávajte záznam o každom volaní nástroja, aby ste odhalili vzorce, napríklad časté prepočutie jednej číslice, a opravte ich v kroku potvrdenia.

Ako to súvisí s Call

V Call AI agent odpovedá zo svojich pokynov, persony, skriptu priradeného k linke a pasáží znalostnej bázy, ktoré zodpovedajú otázke. Nie je navrhnutý na vykonávanie akcií, ako je rezervovanie či potvrdzovanie termínov, spätné volanie, posielanie čohokoľvek alebo ponúkanie zliav počas hovoru. Povie to a ponúkne cestu, ktorú opisujú vaše zdroje, napríklad rezervačný odkaz alebo spätné zavolanie od vášho tímu. Fakty, ktoré sa často menia, majte v zdrojoch agenta a aktualizujte ich a na následnú prácu, ktorá vyžaduje človeka, používajte Centrum podpory. Ak chcete Call prepojiť s vlastnými systémami, rozhranie pre vývojárov opisuje článok Call pre vývojárov a API; skôr než budete navrhovať okolo určitého správania, overte si, čo ponúka.

Pri hodnotení akejkoľvek platformy, ktorá propaguje používanie nástrojov, položte praktické otázky z kontrolného zoznamu nižšie.

Otázky k nástrojom hlasového agenta

  • K akým systémom má prístup a s akými oprávneniami?
  • Je vyhľadávanie oddelené od akcií, ktoré menia údaje?
  • Existuje záznam každého volania s argumentmi a výsledkami?
  • Čo sa stane, keď je vyhľadávanie neúspešné alebo pomalé?
  • Môže závažné akcie schváliť človek?
  • Ako sa overuje totožnosť volajúceho, kým sa vyslovia údaje?
  • Dajú sa nástroje pred spustením otestovať s realistickým hovoreným vstupom?

Hodnoteniu sa venuje článok Ako hodnotiť rozhovory hlasového agenta.

Často kladené otázky

Čo je volanie funkcií jednoducho povedané?

Je to spôsob, ako môže AI model požiadať váš softvér, aby niečo urobil, napríklad vyhľadal objednávku. Model napíše požiadavku, váš systém ju vykoná a vráti výsledok, ktorý model vysvetlí.

Spúšťa AI funkciu sama?

Nie. Model volanie len navrhne. Váš vlastný kód ho overí a spustí, a práve tam môžete uplatniť pravidlá, limity a zaznamenávanie.

Je bezpečné nechať hlasového agenta meniť záznamy?

Dá sa to robiť opatrne, ale začnite vyhľadávaním len na čítanie. Pri všetkom, čo mení údaje, pridajte potvrdenie, limity a tam, kde je veľa v stávke, schválenie človekom.

Prečo vyhľadávanie spomalí hovor?

Každý krok zaberie čas: rozhodnutie o volaní, jeho spustenie, napísanie odpovede a jej vyslovenie. Rýchle nástroje, krátke potvrdenie a jedno vyhľadávanie na repliku udržia oneskorenie znesiteľné.

Môže volajúci agenta oklamať, aby nástroj použil nesprávne?

Môže sa o to pokúsiť. Overujte argumenty, kontrolujte oprávnenia vo svojom kóde a dávajte agentovi úzke nástroje, aby pomýlená požiadavka nemohla spôsobiť skutočnú škodu.

Vyhľadáva AI agent v Call informácie v mojich systémoch?

Agent v Call pracuje so svojimi pokynmi, skriptom a zdrojmi znalostí a počas hovoru nič nerezervuje, neposiela ani nepotvrdzuje. Meniace sa fakty majte v jeho zdrojoch a následné kroky nechajte na tím.

Pozrite sa, ako AI agent v Call odpovedá z vašich zdrojov

V demo konzole si môžete vyskúšať prichádzajúce hovory v simulácii.

Súvisiace príručky