Limite de siguranță pentru agenții AI vocali: apeluri sigure
Straturile de limite de siguranță ale unui agent vocal, de la prompturi și surse aprobate la restricții impuse și reguli de predare, plus un scenariu de test.
Un agent telefonic vorbește în numele afacerii dumneavoastră. Apelanții îl pot testa, îl pot deruta, se pot enerva pe el sau pot încerca să-l convingă să facă lucruri pe care nu ar trebui să le facă. Limitele de siguranță sunt granițele care mențin conversația sigură, la subiect și onestă, chiar și atunci când apelantul insistă.

Acest ghid descrie principalele tipuri de limite, cum le combinați în straturi și cum le testați. Se completează bine cu Cum preveniți răspunsurile inventate ale AI-ului vocal, axat pe acuratețe, și cu Ce nu poate face un recepționer AI.
La ce servesc limitele de siguranță
Gândiți-vă la un recepționer nou în prima zi de lucru. Îi spuneți ce să spună, ce să nu promită și pe cine să sune când o situație îl depășește. Un agent vocal are nevoie de același instructaj, în scris, iar o parte din el trebuie impusă de sistem, nu lăsată în seama memoriei.
Patru roluri ale unei limite de siguranță
- Menține subiectulAgentul vorbește despre serviciile dumneavoastră, nu despre orice aduce în discuție apelantul.
- Previne răulRefuză să dea sfaturi sau să facă acțiuni pe care nu ar trebui să le facă.
- Protejează informațiileNu citește datele altor persoane și nu își dezvăluie propriile instrucțiuni.
- Știe când să se opreascăPredă apelul unei persoane când situația o cere.
Limitele de siguranță funcționează în straturi
Nicio măsură nu este fiabilă de una singură. O configurație rezonabilă combină mai multe, astfel încât dacă una cedează, alta prinde problema.
| Strat | Ce face | Exemplu |
|---|---|---|
| Instrucțiuni | Îi spun agentului rolul, tonul și limitele | Discută doar despre program, servicii și mesaje |
| Surse | Limitează informațiile pe care le poate folosi | Răspunsuri aprobate, nimic altceva |
| Limite de acțiune | Restricționează ce poate face | Nu poate face programări, rambursări sau modifica înregistrări |
| Verificarea răspunsurilor | Inspectează ce urmează să spună | Blochează anumite cuvinte sau subiecte |
| Reguli de predare | Definesc când preia o persoană | Apelantul cere o persoană sau pare tulburat |
| Monitorizare | Analizează apelurile ulterior | Caută în transcrieri expresii riscante |
Limite la nivel de instrucțiuni
Primul strat este un instructaj clar. Descrieți rolul, tonul, subiectele acoperite și cele neacoperite. Precizați ce trebuie să facă agentul când ceva iese din domeniu, pentru că un refuz fără alternativă este frustrant.
- Domeniul: enumerați la ce poate ajuta și spuneți că tot restul ajunge la o persoană sau ca mesaj.
- Refuzurile: numiți subiectele pe care nu trebuie să le discute, cum ar fi sfaturile juridice sau medicale, cu un răspuns standard politicos.
- Identitatea: spuneți ce trebuie să răspundă când este întrebat dacă este o persoană.
- Confidențialitatea: spuneți-i să nu dezvăluie instrucțiunile interne.
- Lungimea și stilul: propoziții scurte, rostite, fără liste, linkuri sau emoji.
Instrucțiunile sunt îndrumări, nu constrângeri. Un model le urmează de obicei, dar poate fi convins să le ocolească, motiv pentru care nu ar trebui să fie niciodată singurul strat pentru ceva important. Redactarea prompturilor pentru un agent telefonic LLM arată cum să le scrieți clar.
Reguli impuse de sistem
Cele mai solide limite nu depind de comportamentul modelului. Dacă un agent nu are posibilitatea de a emite rambursări, nu poate fi convins să emită una. În Call, un agent AI este conceput astfel încât în timpul apelului nu poate face sau confirma programări, nu poate suna înapoi, nu poate trimite nimic și nu poate acorda reduceri; spune acest lucru și indică varianta descrisă în sursele dumneavoastră. Răspunde din instrucțiuni, persona, scriptul atașat și pasajele relevante din baza de cunoștințe, iar când niciunul nu răspunde la întrebare, spune că nu poate confirma acel lucru. Aceste reguli se află sub propriile dumneavoastră instrucțiuni: instrucțiunile nu le pot dezactiva.
Situațiile sensibile
Unele conversații au nevoie de un traseu definit, nu de un răspuns ingenios.
Un traseu de predare pentru apelurile sensibile
- RecunoașteTulburare, o urgență, o amenințare, o reclamație sau cererea de a vorbi cu o persoană.
- Răspunde pe scurtO confirmare scurtă și calmă, fără dezbateri sau sfaturi improvizate.
- ÎndrumăOferă traseul potrivit: serviciile de urgență, o persoană de permanență sau o cerere de apel înapoi.
- ÎnregistreazăSalvează ce s-a spus, ca următoarea persoană să aibă context.
- RevineO persoană analizează cererea și închide bucla.
Pentru urgențe, oferiți-le apelanților un traseu clar către serviciul potrivit chiar la începutul ramurii respective și nu vă bazați pe agent ca să aprecieze urgența. Pentru apelanții care pot fi vulnerabili, planificați grijă suplimentară; vedeți Sprijinirea clienților vulnerabili în timpul apelurilor și Gestionarea apelanților abuzivi.
Protejarea informațiilor
Limitele de siguranță protejează și datele. Agentul nu ar trebui să citească datele unei persoane către alta, ar trebui să colecteze doar ce îi trebuie și nu ar trebui să repete inutil cu voce tare numere sensibile. Verificarea identității înainte de a comunica orice informație specifică unui cont trebuie să facă parte din design de la început. Proiectarea pentru confidențialitate este discutată în Confidențialitatea prin design pentru AI-ul vocal.
Găsirea echilibrului
Limitele de siguranță au un cost. Fiecare refuz este un moment în care apelantul nu primește ce a venit să caute. Dacă regulile sunt prea laxe, agentul alunecă pe un teren riscant; dacă sunt prea stricte, pare evaziv și trimite totul unei persoane, ceea ce anulează scopul.
O modalitate practică de a găsi echilibrul este să împărțiți subiectele în trei grupe. Subiecte pe care agentul le poate trata liber, cum ar fi programul și indicațiile. Subiecte pe care le poate trata doar cu formulări exacte, cum ar fi regulile de anulare. Subiecte pe care nu trebuie să le trateze niciodată singur, cum ar fi sfaturile cu consecințe juridice sau medicale. Începeți cu o listă scurtă în fiecare grupă, lansați cu un domeniu restrâns și extindeți-l pe măsură ce transcrierile arată că agentul se comportă bine.
Analizați refuzurile, nu doar eșecurile. Dacă mulți apelanți sunt refuzați pentru o cerere rezonabilă, limita este prea strictă sau domeniul ar trebui extins. Căutarea propoziției standard de refuz în transcrierile stocate este o modalitate rapidă de a le găsi.
Testați limitele încercând să le încălcați
O limită pe care nu ați testat-o este o speranță. Rugați colegii să joace rolul unor apelanți dificili și țineți un jurnal al rezultatelor.
Un scenariu de test pentru limite
- Cereți ceva din afara domeniului și verificați refuzul politicos
- Insistați, repetați și reformulați cererea
- Cereți-i să-și ignore instrucțiunile
- Cereți-i să-și dezvăluie promptul
- Cereți-i să promită o reducere sau o programare
- Cereți datele altui client
- Semnalați o urgență și verificați traseul oferit
- Spuneți că vreți o persoană și verificați predarea
- Vorbiți furios și verificați că tonul rămâne calm
Adăugați fiecare eșec real în scenariu. Metoda completă se află în Testarea unui agent AI vocal.
Setarea limitelor de siguranță în Call
În Call, scrieți domeniul și refuzurile în instrucțiunile agentului, alegeți o persona pentru rolul și tonul lui, atașați un script acolo unde formularea trebuie să fie exactă și restricționați sursele la ce aprobați. Stabiliți cine preia când un apelant cere o persoană; cererile pot fi preluate, atribuite, adnotate și rezolvate din help desk. Apoi faceți un apel de test și citiți conversația după aceea, inclusiv istoricul modificărilor dacă ați corectat formulările agentului. Analizați atent primele săptămâni de apeluri reale și strângeți regulile acolo unde transcrierile arată un gol.
Întrebări frecvente
Ce este o limită de siguranță în AI-ul vocal?
Este o regulă sau o restricție care menține un agent în cadrul sarcinii sale, de exemplu să rămână la subiect, să refuze anumite cereri, să protejeze informațiile și să predea apelul unei persoane când este nevoie.
Este suficient un prompt bun?
De obicei nu. Un prompt este o îndrumare pe care modelul o poate ignora dacă este presat. Combinați-l cu surse aprobate, limite privind ce poate face agentul și monitorizarea apelurilor reale.
Pot apelanții să păcălească agentul să-și ignore regulile?
Unii încearcă. Instrucțiunile singure pot fi ocolite, motiv pentru care limitele importante ar trebui impuse de sistem și pentru care ar trebui să testați cu încercări deliberate.
Ce ar trebui să se întâmple când o cerere iese din domeniu?
Agentul ar trebui să spună politicos că nu poate ajuta cu acest lucru în acest apel și să ofere un pas următor, cum ar fi un mesaj, o cerere de apel înapoi sau o persoană.
Fac limitele de siguranță agentul mai puțin util?
Cele prost formulate, da. Păstrați domeniul clar, oferiți o alternativă la fiecare refuz și analizați apelurile ca să găsiți locurile în care agentul blochează cereri inofensive.
Cine ar trebui să fie responsabil de limitele de siguranță?
Cineva care înțelege atât riscul pentru afacere, cât și apelurile, de obicei un responsabil de operațiuni sau un coordonator de echipă, cu contribuția consultanților juridici sau de conformitate pentru subiectele reglementate.