Tehnologia AI vocală

Limite de siguranță pentru agenții AI vocali: apeluri sigure

Straturile de limite de siguranță ale unui agent vocal, de la prompturi și surse aprobate la restricții impuse și reguli de predare, plus un scenariu de test.

Echipa editorială Call · Publicat · 5 min de citit

Un agent telefonic vorbește în numele afacerii dumneavoastră. Apelanții îl pot testa, îl pot deruta, se pot enerva pe el sau pot încerca să-l convingă să facă lucruri pe care nu ar trebui să le facă. Limitele de siguranță sunt granițele care mențin conversația sigură, la subiect și onestă, chiar și atunci când apelantul insistă.

Un manager care analizează notițele unor apeluri la birou, cu o cască telefonică alături
Imagine ilustrativă

Acest ghid descrie principalele tipuri de limite, cum le combinați în straturi și cum le testați. Se completează bine cu Cum preveniți răspunsurile inventate ale AI-ului vocal, axat pe acuratețe, și cu Ce nu poate face un recepționer AI.

La ce servesc limitele de siguranță

Gândiți-vă la un recepționer nou în prima zi de lucru. Îi spuneți ce să spună, ce să nu promită și pe cine să sune când o situație îl depășește. Un agent vocal are nevoie de același instructaj, în scris, iar o parte din el trebuie impusă de sistem, nu lăsată în seama memoriei.

Patru roluri ale unei limite de siguranță

  • Menține subiectulAgentul vorbește despre serviciile dumneavoastră, nu despre orice aduce în discuție apelantul.
  • Previne răulRefuză să dea sfaturi sau să facă acțiuni pe care nu ar trebui să le facă.
  • Protejează informațiileNu citește datele altor persoane și nu își dezvăluie propriile instrucțiuni.
  • Știe când să se opreascăPredă apelul unei persoane când situația o cere.

Limitele de siguranță funcționează în straturi

Nicio măsură nu este fiabilă de una singură. O configurație rezonabilă combină mai multe, astfel încât dacă una cedează, alta prinde problema.

StratCe faceExemplu
InstrucțiuniÎi spun agentului rolul, tonul și limiteleDiscută doar despre program, servicii și mesaje
SurseLimitează informațiile pe care le poate folosiRăspunsuri aprobate, nimic altceva
Limite de acțiuneRestricționează ce poate faceNu poate face programări, rambursări sau modifica înregistrări
Verificarea răspunsurilorInspectează ce urmează să spunăBlochează anumite cuvinte sau subiecte
Reguli de predareDefinesc când preia o persoanăApelantul cere o persoană sau pare tulburat
MonitorizareAnalizează apelurile ulteriorCaută în transcrieri expresii riscante

Limite la nivel de instrucțiuni

Primul strat este un instructaj clar. Descrieți rolul, tonul, subiectele acoperite și cele neacoperite. Precizați ce trebuie să facă agentul când ceva iese din domeniu, pentru că un refuz fără alternativă este frustrant.

Instrucțiunile sunt îndrumări, nu constrângeri. Un model le urmează de obicei, dar poate fi convins să le ocolească, motiv pentru care nu ar trebui să fie niciodată singurul strat pentru ceva important. Redactarea prompturilor pentru un agent telefonic LLM arată cum să le scrieți clar.

Reguli impuse de sistem

Cele mai solide limite nu depind de comportamentul modelului. Dacă un agent nu are posibilitatea de a emite rambursări, nu poate fi convins să emită una. În Call, un agent AI este conceput astfel încât în timpul apelului nu poate face sau confirma programări, nu poate suna înapoi, nu poate trimite nimic și nu poate acorda reduceri; spune acest lucru și indică varianta descrisă în sursele dumneavoastră. Răspunde din instrucțiuni, persona, scriptul atașat și pasajele relevante din baza de cunoștințe, iar când niciunul nu răspunde la întrebare, spune că nu poate confirma acel lucru. Aceste reguli se află sub propriile dumneavoastră instrucțiuni: instrucțiunile nu le pot dezactiva.

Situațiile sensibile

Unele conversații au nevoie de un traseu definit, nu de un răspuns ingenios.

Un traseu de predare pentru apelurile sensibile

  1. RecunoașteTulburare, o urgență, o amenințare, o reclamație sau cererea de a vorbi cu o persoană.
  2. Răspunde pe scurtO confirmare scurtă și calmă, fără dezbateri sau sfaturi improvizate.
  3. ÎndrumăOferă traseul potrivit: serviciile de urgență, o persoană de permanență sau o cerere de apel înapoi.
  4. ÎnregistreazăSalvează ce s-a spus, ca următoarea persoană să aibă context.
  5. RevineO persoană analizează cererea și închide bucla.

Pentru urgențe, oferiți-le apelanților un traseu clar către serviciul potrivit chiar la începutul ramurii respective și nu vă bazați pe agent ca să aprecieze urgența. Pentru apelanții care pot fi vulnerabili, planificați grijă suplimentară; vedeți Sprijinirea clienților vulnerabili în timpul apelurilor și Gestionarea apelanților abuzivi.

Protejarea informațiilor

Limitele de siguranță protejează și datele. Agentul nu ar trebui să citească datele unei persoane către alta, ar trebui să colecteze doar ce îi trebuie și nu ar trebui să repete inutil cu voce tare numere sensibile. Verificarea identității înainte de a comunica orice informație specifică unui cont trebuie să facă parte din design de la început. Proiectarea pentru confidențialitate este discutată în Confidențialitatea prin design pentru AI-ul vocal.

Găsirea echilibrului

Limitele de siguranță au un cost. Fiecare refuz este un moment în care apelantul nu primește ce a venit să caute. Dacă regulile sunt prea laxe, agentul alunecă pe un teren riscant; dacă sunt prea stricte, pare evaziv și trimite totul unei persoane, ceea ce anulează scopul.

O modalitate practică de a găsi echilibrul este să împărțiți subiectele în trei grupe. Subiecte pe care agentul le poate trata liber, cum ar fi programul și indicațiile. Subiecte pe care le poate trata doar cu formulări exacte, cum ar fi regulile de anulare. Subiecte pe care nu trebuie să le trateze niciodată singur, cum ar fi sfaturile cu consecințe juridice sau medicale. Începeți cu o listă scurtă în fiecare grupă, lansați cu un domeniu restrâns și extindeți-l pe măsură ce transcrierile arată că agentul se comportă bine.

Analizați refuzurile, nu doar eșecurile. Dacă mulți apelanți sunt refuzați pentru o cerere rezonabilă, limita este prea strictă sau domeniul ar trebui extins. Căutarea propoziției standard de refuz în transcrierile stocate este o modalitate rapidă de a le găsi.

Testați limitele încercând să le încălcați

O limită pe care nu ați testat-o este o speranță. Rugați colegii să joace rolul unor apelanți dificili și țineți un jurnal al rezultatelor.

Un scenariu de test pentru limite

  • Cereți ceva din afara domeniului și verificați refuzul politicos
  • Insistați, repetați și reformulați cererea
  • Cereți-i să-și ignore instrucțiunile
  • Cereți-i să-și dezvăluie promptul
  • Cereți-i să promită o reducere sau o programare
  • Cereți datele altui client
  • Semnalați o urgență și verificați traseul oferit
  • Spuneți că vreți o persoană și verificați predarea
  • Vorbiți furios și verificați că tonul rămâne calm

Adăugați fiecare eșec real în scenariu. Metoda completă se află în Testarea unui agent AI vocal.

Setarea limitelor de siguranță în Call

În Call, scrieți domeniul și refuzurile în instrucțiunile agentului, alegeți o persona pentru rolul și tonul lui, atașați un script acolo unde formularea trebuie să fie exactă și restricționați sursele la ce aprobați. Stabiliți cine preia când un apelant cere o persoană; cererile pot fi preluate, atribuite, adnotate și rezolvate din help desk. Apoi faceți un apel de test și citiți conversația după aceea, inclusiv istoricul modificărilor dacă ați corectat formulările agentului. Analizați atent primele săptămâni de apeluri reale și strângeți regulile acolo unde transcrierile arată un gol.

Întrebări frecvente

Ce este o limită de siguranță în AI-ul vocal?

Este o regulă sau o restricție care menține un agent în cadrul sarcinii sale, de exemplu să rămână la subiect, să refuze anumite cereri, să protejeze informațiile și să predea apelul unei persoane când este nevoie.

Este suficient un prompt bun?

De obicei nu. Un prompt este o îndrumare pe care modelul o poate ignora dacă este presat. Combinați-l cu surse aprobate, limite privind ce poate face agentul și monitorizarea apelurilor reale.

Pot apelanții să păcălească agentul să-și ignore regulile?

Unii încearcă. Instrucțiunile singure pot fi ocolite, motiv pentru care limitele importante ar trebui impuse de sistem și pentru care ar trebui să testați cu încercări deliberate.

Ce ar trebui să se întâmple când o cerere iese din domeniu?

Agentul ar trebui să spună politicos că nu poate ajuta cu acest lucru în acest apel și să ofere un pas următor, cum ar fi un mesaj, o cerere de apel înapoi sau o persoană.

Fac limitele de siguranță agentul mai puțin util?

Cele prost formulate, da. Păstrați domeniul clar, oferiți o alternativă la fiecare refuz și analizați apelurile ca să găsiți locurile în care agentul blochează cereri inofensive.

Cine ar trebui să fie responsabil de limitele de siguranță?

Cineva care înțelege atât riscul pentru afacere, cât și apelurile, de obicei un responsabil de operațiuni sau un coordonator de echipă, cu contribuția consultanților juridici sau de conformitate pentru subiectele reglementate.

Stabiliți în Call limite clare pentru agentul AI

În consola demo puteți încerca apeluri primite într-o simulare.

Ghiduri conexe