Agentul vocal care caută informații: instrumente și function calling
Cum funcționează function calling pentru agenții vocali: căutări versus acțiuni, ce face un instrument bun, riscurile vorbirii și cum păstrați apelurile firești.
Informațiile care se schimbă de la o oră la alta nu pot sta într-un prompt. Stadiul unei comenzi, nivelul stocului sau un interval liber pentru o programare sunt corecte doar pentru un moment. Ca să folosească astfel de informații, un agent vocal are nevoie de o modalitate de a întreba un alt sistem, iar acest mecanism se numește de obicei function calling sau utilizarea instrumentelor (tool use).

Acest ghid explică pe înțelesul tuturor cum funcționează, ce face un instrument bun, unde sunt riscurile și cum se raportează ideea la modul în care funcționează astăzi agenții AI din Call. Pentru contextul lanțului de procesare vocală, vedeți Cum funcționează AI-ul vocal într-un apel telefonic.
Cum funcționează un apel de instrument
Un model de limbaj scrie text. Nu poate deschide o bază de date și nu poate apăsa un buton. Function calling este o convenție: descrieți modelului un set de funcții, fiecare cu un nume, un scop și datele de intrare pe care le așteaptă, iar modelul poate răspunde cu o cerere de a folosi una dintre ele.
Ciclul de viață al unui apel de instrument
- Apelantul întreabăDe exemplu: unde este comanda mea?
- Modelul propune un apelReturnează numele unei funcții și argumentele, cum ar fi un număr de comandă.
- Software-ul dumneavoastră valideazăVerifică argumentele, permisiunile apelantului și eventualele limite.
- Sistemul îl executăInteroghează sistemul de comenzi și obține un rezultat.
- Rezultatul revine la modelModelul transformă datele într-un răspuns scurt, rostit.
Ideea-cheie este că acțiunea o face software-ul dumneavoastră, nu modelul. Astfel aveți un loc în care să impuneți reguli, să înregistrați ce s-a întâmplat și să refuzați orice este nerezonabil.
Căutări versus acțiuni
Nu toate instrumentele au același risc. O căutare citește informații. O acțiune schimbă ceva în lume. Tratați-le diferit.
Căutări doar în citire versus acțiuni care modifică date
| Căutare | Acțiune | |
|---|---|---|
| Exemple | Program, stadiul comenzii, lungimea cozii | Anularea unei rezervări, o rambursare, actualizarea unei adrese |
| Risc în caz de eroare | Un răspuns greșit, care poate fi corectat | O modificare care poate fi greu de anulat |
| Măsuri de protecție tipice | Verificarea identității, câmpuri limitate | Pas de confirmare, aprobare umană, jurnal de audit |
| Bun punct de pornire? | Da | Doar după ce căutările funcționează bine |
O cale prudentă este să lansați doar cu căutări, să urmăriți apelurile reale și să adăugați acțiunile treptat, cu o persoană care confirmă orice are consecințe. Este aceeași atitudine care stă la baza articolului Limite de siguranță pentru agenții AI vocali.
Ce face un instrument bun
- Un singur scop clar. Un instrument numit get_order_status este mai ușor de ales corect de către model decât unul care face cinci lucruri.
- Puține date de intrare, simple. Cereți un număr de comandă, nu un câmp lung de text liber.
- Un rezultat scurt și structurat. Returnați cele câteva câmpuri pe care agentul le va spune cu voce tare, nu o înregistrare completă.
- Mesaje de eroare simple. Returnați „negăsit” sau „încercați mai târziu” într-o formă pe care modelul o poate transforma într-o propoziție politicoasă.
- Un răspuns rapid. Instrumentele lente îl lasă pe apelant să aștepte în tăcere.
Numele și descrierile contează
Modelul alege instrumentele pe baza numelor și descrierilor pe care i le dați. Formulările vagi duc la alegeri greșite. Scrieți descrierile ca pe niște instrucțiuni pentru un coleg nou: când să folosească instrumentul, când nu și ce înseamnă fiecare dată de intrare.
Datele rostite sunt imprecise
Argumentele provin din vorbire. Un număr de comandă poate sosi cu o cifră greșită sau un nume cu o ortografie neobișnuită. Repetați-i apelantului valorile-cheie înainte de a le folosi și proiectați instrumentul astfel încât să returneze un rezultat util pentru potrivirile aproximative. Nume, numere și adrese corecte prin voce tratează în detaliu tehnicile de confirmare.
Riscurile de luat în calcul în design
Unde greșește utilizarea instrumentelor
- Instrument sau argumente greșiteModelul interpretează greșit cererea, așa că validați totul înainte de execuție.
- Prea multe informațiiO căutare returnează mai mult decât ar trebui să audă apelantul, așa că returnați doar ce este necesar.
- Identitate neverificatăCitirea datelor de cont unei persoane greșite, așa că verificați înainte de a dezvălui ceva.
- Sisteme lente sau care cedeazăTăcere sau o eroare derutantă, așa că stabiliți limite de timp și variante de rezervă rostite.
- Instrucțiuni injectateText din rezultatul unei căutări care încearcă să-i dea ordine modelului, așa că tratați rezultatele doar ca date.
Fiecare risc are un răspuns tehnic, dar cel mai sigur principiu de design este să-i dați agentului accesul minim necesar pentru sarcină. Nu-i oferiți o conexiune generală la baza de date când o singură căutare restrânsă este suficientă.
Cum păstrați apelul firesc
Un apel de instrument adaugă timp: modelul decide, sistemul răspunde, modelul scrie răspunsul și se generează vorbirea. Apelantul aude tăcere. Tacticile care ajută includ o confirmare foarte scurtă înaintea unei căutări, păstrarea în cache a valorilor care se schimbă rar și limitarea fiecărei replici la un singur apel de instrument. Latența AI-ului vocal descrie de unde vine întârzierea. Dacă o căutare eșuează sau expiră, agentul ar trebui să spună asta pe scurt și să ofere un mesaj sau o persoană, în loc să aștepte.
Un exemplu pas cu pas
Imaginați-vă un magazin de mobilă ipotetic al cărui agent răspunde la întrebări despre livrări. Magazinul definește un singur instrument doar pentru citire, care primește un număr de comandă și returnează stadiul livrării și intervalul de livrare. Agentul are instrucțiunea să-l folosească doar după ce apelantul a dat un număr de comandă și l-a confirmat după ce l-a auzit repetat.
- Apelantul spune că așteaptă o canapea și dă un număr de comandă.
- Agentul repetă numărul în grupe, iar apelantul confirmă.
- Instrumentul returnează stadiul „în curs de livrare” și intervalul „după-amiază”.
- Agentul spune că comanda este în curs de livrare și ar trebui să ajungă în această după-amiază, apoi întreabă dacă mai este nevoie de ceva.
- Dacă instrumentul returnează „negăsit”, agentul spune că nu găsește comanda respectivă și se oferă să preia un mesaj pentru echipă.
Observați ce lipsește: agentul nu poate reprograma livrarea. Dacă apelantul vrea altă zi, agentul preia cererea, iar echipa se ocupă de ea. Pornind cu un instrument restrâns și sigur ca acesta, aflați cum vorbesc de fapt apelanții înainte de a extinde domeniul. Țineți evidența fiecărui apel primit de instrument, ca să observați tipare, de exemplu o cifră auzită frecvent greșit, și să le corectați în pasul de confirmare.
Cum se raportează la Call
În Call, un agent AI răspunde din instrucțiuni, persona, scriptul atașat liniei și pasajele din baza de cunoștințe care se potrivesc cu întrebarea. Nu este conceput să facă în timpul apelului acțiuni precum programarea sau confirmarea întâlnirilor, apelurile înapoi, trimiterea de documente sau oferirea de reduceri. Spune acest lucru și indică varianta descrisă în sursele dumneavoastră, de exemplu un link de programare sau un apel înapoi din partea echipei. Pentru informațiile care se schimbă des, păstrați-le în sursele agentului și actualizați-le, iar pentru revenirile care necesită o persoană folosiți help desk-ul. Dacă vreți să conectați Call la propriile sisteme, interfața pentru dezvoltatori este descrisă în Call pentru dezvoltatori și API; verificați ce oferă înainte de a proiecta în jurul unui anumit comportament.
Când evaluați orice platformă care promovează utilizarea instrumentelor, puneți întrebările practice din checklistul de mai jos.
Întrebări despre instrumentele unui agent vocal
- La ce sisteme are acces și cu ce permisiuni?
- Sunt căutările separate de acțiunile care modifică date?
- Există un jurnal al fiecărui apel făcut, cu argumente și rezultate?
- Ce se întâmplă când o căutare eșuează sau este lentă?
- Poate o persoană să aprobe acțiunile cu consecințe?
- Cum este verificată identitatea apelantului înainte ca datele să fie rostite?
- Puteți testa instrumentele cu date rostite realiste înainte de lansare?
Pentru partea de evaluare, vedeți Cum evaluați conversațiile unui agent vocal.
Întrebări frecvente
Ce este function calling, pe scurt?
Este o modalitate prin care un model AI îi cere software-ului dumneavoastră să facă ceva, de exemplu să caute o comandă. Modelul scrie cererea, sistemul o execută și returnează rezultatul, pe care modelul îl explică.
Execută AI-ul funcția singur?
Nu. Modelul doar propune apelul. Propriul dumneavoastră cod îl verifică și îl execută, iar acolo puteți aplica reguli, limite și jurnalizare.
Este sigur să las un agent vocal să modifice înregistrări?
Se poate face cu grijă, dar începeți cu căutări doar în citire. Pentru tot ce modifică date, adăugați confirmare, limite și aprobare umană acolo unde mizele sunt mari.
De ce face o căutare apelul să pară lent?
Fiecare pas durează: decizia privind apelul, execuția, redactarea răspunsului și rostirea lui. Instrumentele rapide, o confirmare scurtă și o singură căutare pe replică mențin întârzierea la un nivel tolerabil.
Poate un apelant să păcălească agentul să folosească greșit un instrument?
Poate încerca. Validați argumentele, verificați permisiunile în cod și oferiți-i agentului instrumente restrânse, astfel încât o cerere greșită să nu poată produce un rău real.
Caută agentul AI din Call informații în sistemele mele?
Agentul din Call lucrează pe baza instrucțiunilor, a scriptului și a surselor de cunoștințe și nu face programări, nu trimite și nu confirmă nimic în timpul apelului. Păstrați informațiile care se schimbă în sursele lui și lăsați revenirile în seama echipei.