AI Act al UE și agenții vocali: noțiuni de transparență
Ce înseamnă obligațiile de transparență din AI Act al UE pentru agenții vocali care preiau sau efectuează apeluri, cu o listă pentru informarea despre AI.
Agenții vocali sunt acum atât de buni încât un apelant poate încheia o conversație fără să își dea seama că la celălalt capăt nu a fost un om. Legiuitorii europeni au observat acest lucru. Regulamentul UE privind inteligența artificială (Regulamentul (UE) 2024/1689) include reguli de transparență care vizează direct sistemele care interacționează cu oamenii, iar un agent telefonic este un exemplu tipic.

Acest ghid explică pe înțelesul tuturor noțiunile de bază: ce prevede obligația de transparență, cui îi revine, ce înseamnă pentru apelurile primite și efectuate și cum o integrați în fluxul de apel. Este o prezentare generală pentru echipele de operațiuni și de produs, nu o opinie juridică. Pentru o imagine mai largă despre informarea apelanților cu privire la AI, consultați Cum le spuneți apelanților că vorbesc cu un AI.
Regulamentul într-un minut
AI Act clasifică sistemele AI după riscul pe care îl prezintă și asociază obligații fiecărei categorii. Un număr mic de practici sunt interzise. O listă definită de utilizări cu risc ridicat implică obligații stricte. Sistemele care interacționează direct cu oamenii sau care generează conținut audio, imagini ori video sintetice au obligații de transparență mai ușoare. Majoritatea utilizărilor obișnuite în afaceri nu figurează pe lista celor cu risc ridicat.
Un agent vocal pentru serviciul clienți se încadrează de obicei în categoria obligațiilor de transparență, nu în cea cu risc ridicat. Asta nu înseamnă că nu este reglementat: se aplică în continuare alte legi, cum ar fi regulile privind protecția datelor și dreptul consumatorului. Însă cerința proprie a AI Act pentru acest tip de sistem ține în principal de onestitate.
Unde se încadrează un agent vocal
- Practici interziseUtilizările manipulative sau care exploatează vulnerabilități sunt interzise complet. Un recepționer sau un agent de suport obișnuit nu este conceput pentru așa ceva, dar prompturile și scripturile dumneavoastră nu ar trebui să alunece niciodată în această direcție.
- Sisteme cu risc ridicatO listă fixă de utilizări, cum ar fi anumite decizii privind angajarea, creditarea sau serviciile esențiale. Verificați dacă fluxul dumneavoastră de apel ia astfel de decizii sau le influențează puternic.
- Obligații de transparențăCategoria în care se încadrează majoritatea agenților telefonici: oamenii trebuie informați că interacționează cu un sistem AI, iar conținutul audio sintetic ar trebui marcat.
- RestulSe aplică în continuare alte legi, inclusiv cele privind protecția datelor, înregistrarea apelurilor și protecția consumatorilor.
Ce prevede obligația de transparență
Pe scurt, articolul privind transparența din regulament cere următoarele, cu unele excepții:
- Spuneți-le oamenilor că vorbesc cu un AI. Furnizorii de sisteme AI care interacționează direct cu oamenii trebuie să le proiecteze astfel încât persoana să fie informată, cu excepția cazului în care acest lucru este evident din context pentru o persoană rezonabil informată.
- Marcați conținutul audio sintetic. Furnizorii de sisteme care generează conținut audio, imagini, video sau text sintetic trebuie să se asigure că rezultatul este marcat într-un format care poate fi citit automat și poate fi detectat ca generat artificial, acolo unde este fezabil din punct de vedere tehnic.
- Declarați deepfake-urile. Cei care implementează sisteme care creează sau modifică conținut ce seamănă cu persoane, locuri sau evenimente reale trebuie să declare că acesta este artificial.
- Informați oamenii despre recunoașterea emoțiilor. Implementatorii de sisteme de recunoaștere a emoțiilor sau de clasificare biometrică trebuie să le spună acest lucru persoanelor expuse la ele.
Conform calendarului inițial, obligațiile de transparență urmează să se aplice din august 2026. Calendarele pentru anumite părți ale regulamentului au fost discutate la nivelul UE, așa că verificați datele aplicabile în momentul în care citiți acest ghid.
Este vreodată evident?
Regulamentul permite o excepție atunci când pentru o persoană rezonabil informată este evident că interacționează cu un AI. La telefon, nu vă bazați pe ea. O voce naturală, un nume care sună omenește și un ton prietenos fac ca lucrul acesta să fie departe de evident. Dacă nu sunteți sigur, informați.
Furnizor sau implementator: cine are ce obligație
Regulamentul face distincția între furnizori, care dezvoltă un sistem AI sau comandă dezvoltarea lui și îl introduc pe piață sub propriul nume, și implementatori, care folosesc un sistem sub propria autoritate. O companie care configurează un agent vocal pe o platformă și îl conectează la linia sa telefonică este de obicei implementator, în timp ce furnizorul platformei este mai aproape de rolul de furnizor. Multe obligații îi revin furnizorului, dar implementatorul trebuie totuși să folosească sistemul conform destinației, să informeze oamenii acolo unde este necesar și să nu elimine măsurile de protecție.
Furnizor și implementator, comparativ
| Furnizor (construiește sau vinde sistemul) | Implementator (îl pune în funcțiune) | |
|---|---|---|
| Exemplu tipic | Un furnizor de platformă pentru agenți vocali | O clinică, un magazin sau un birou de asistență care folosește un agent vocal pe linia sa |
| Informarea oamenilor | Construiește sistemul astfel încât să le poată spune oamenilor că interacționează cu un AI | Se asigură că linia chiar îi informează pe apelanți, în locul potrivit și cu formularea potrivită |
| Marcarea conținutului audio sintetic | Integrează marcarea acolo unde este fezabil din punct de vedere tehnic | Nu o elimină și nu o dezactivează |
| Controlul de zi cu zi | Documentație și proiectare | Scripturi, escaladare, monitorizare și păstrarea evidențelor |
Dacă nu sunteți sigur ce rol aveți, presupuneți că aveți cel puțin obligațiile implementatorului și întrebați-vă furnizorul ce face platforma în locul dumneavoastră.
Apeluri primite și apeluri efectuate
Apelurile primite sunt cazul mai simplu. Apelantul a ales să vă sune, iar dumneavoastră puteți începe cu o scurtă declarație înainte ca agentul să preia conversația. Apelurile efectuate necesită mai multă atenție, deoarece persoana nu a ales conversația. Informarea ar trebui să apară în prima sau a doua propoziție, împreună cu cine sună și de ce.
O deschidere transparentă pentru un apel gestionat de AI
- Numiți compania„Bună ziua, aici este linia de programări a Harbour Physio.”
- Spuneți că este un AI„Sunt un asistent vocal automat, nu o persoană.”
- Spuneți ce poate face„Pot prelua un mesaj sau o cerere de programare.”
- Oferiți un om„Dacă preferați să vorbiți cu cineva, spuneți doar.”
- Menționați înregistrarea, dacă este cazul„Acest apel poate fi înregistrat în scopul asigurării calității.”
Aceste exemple sunt ipotetice; adaptați-le propriei companii. Pentru campaniile de apeluri efectuate respectați și regulile separate privind apelurile automate și consimțământul, rezumate în Apelurile automate: prezentare pe țări.
Voci sintetice și clonate
Vocile text-to-speech sunt conținut audio sintetic, iar o voce clonată merge mai departe, imitând o persoană reală. Obligațiile de marcare revin în principal furnizorului, dar, ca implementator, ar trebui să înțelegeți ce face platforma dumneavoastră și nu ar trebui să folosiți niciodată vocea clonată a unei persoane reale fără permisiunea clară a acesteia. Dacă agentul dumneavoastră vorbește cu vocea unui angajat cunoscut, spuneți-le apelanților că este o voce AI, nu acel angajat.
- Nu dați unui agent AI o funcție umană sau un nume personal care sugerează o persoană, dacă apelanții ar putea fi induși în eroare.
- Dacă un apelant întreabă sincer dacă vorbește cu o persoană, răspundeți de fiecare dată adevărul.
- Păstrați o evidență scrisă a vocii și formulării folosite pe fiecare linie.
Pentru mai multe despre voci, consultați Clonarea vocii în afaceri: consimțământ și limite.
Dincolo de informare: ce altceva trebuie proiectat
Transparența este minimul, nu maximul. Un agent vocal bine gestionat mai are nevoie de următoarele:
Măsuri practice de protecție în jurul informării
- O cale către un omApelanții care cer un om ar trebui să ajungă la unul sau să li se ofere un apel înapoi ori posibilitatea de a lăsa un mesaj, fără dificultate.
- Limite pentru ce spuneLimitări care împiedică agentul să inventeze răspunsuri sau să dea sfaturi în afara competenței sale.
- Grijă față de dateColectați doar ce este necesar pentru apel și spuneți-le apelanților cum sunt folosite înregistrările și transcrierile.
- Supraveghere umanăCineva verifică transcrierile, gestionează escaladările și poate opri agentul.
Consultați Limitări de siguranță pentru agenții vocali AI și Confidențialitatea încă din proiectare pentru AI vocal pentru partea de proiectare.
O listă practică de pregătire
Înainte ca un agent vocal AI să preia apeluri reale
- Stabiliți dacă, pentru acest sistem, sunteți furnizor, implementator sau ambele
- Formulați informarea în cuvinte simple și puneți-o la început pe fiecare tip de apel
- Asigurați-vă că un apelant poate ajunge la un om, la un apel înapoi sau poate lăsa un mesaj
- Confirmați cu furnizorul cum este marcat conținutul audio sintetic
- Verificați ca și notificările privind protecția datelor și înregistrarea să fie în vigoare
- Păstrați evidența formulărilor folosite și a datelor la care s-au schimbat
- Verificați săptămânal un eșantion de apeluri reale și corectați-le pe cele în care AI-ul nu a fost declarat
- Verificați din nou sursele oficiale pentru schimbări de calendar înainte de lansare
Cum procedați în Call
În Call, un operator poate enumera declarațiile obligatorii în Administrator, Telefonie și IA: indicați o etichetă, cuvintele care contează ca rostire a declarației și numărul de secunde până la care trebuie să fi fost spusă. Contează doar ce spune agentul, nu întrebarea unui apelant despre ea. Pe o linie telefonică puteți alege și dacă apelanții aud o notificare privind înregistrarea și monitorizarea, iar la apelurile cu AI această notificare precede salutul. Un apelant poate cere un om, iar agenții AI pot transfera un apel; consultați ghidul despre transferul apelurilor de la un agent AI către o persoană în Call. Dacă aceste setări îndeplinesc o anumită obligație legală este o decizie care vă aparține, împreună cu consultantul dumneavoastră.
Întrebări frecvente
AI Act al UE mi se aplică dacă firma mea se află în afara UE?
Se poate. Regulamentul se aplică și furnizorilor și implementatorilor din afara UE atunci când rezultatele sistemului lor sunt folosite în UE, de exemplu de apelanți aflați acolo. Cereți sfatul unui specialist dacă aveți apelanți din UE.
Un agent vocal trebuie să spună întotdeauna că este un AI?
Regula de transparență cere ca oamenii să fie informați că interacționează cu un sistem AI, cu excepția cazului în care acest lucru este evident pentru o persoană rezonabil informată. Pe o linie telefonică rareori este evident, așa că obiceiul sigur este să o spuneți la începutul fiecărui apel.
Când încep să se aplice regulile de transparență?
Conform calendarului inițial, urmează să se aplice din august 2026, dar calendarele pentru anumite părți ale regulamentului au fost în discuție. Verificați pe paginile Comisiei Europene datele în vigoare în momentul în care citiți acest ghid.
Un mesaj de salut text-to-speech este un sistem AI?
Un mesaj de salut fix, înregistrat sau sintetic, care nu interacționează, este diferit de un agent care poartă o conversație. Obligațiile de marcare pentru conținutul audio sintetic pot fi totuși relevante, așa că întrebați-vă furnizorul cum le gestionează.
Dacă declar că este AI, apelanții vor închide?
Unii s-ar putea să închidă, dar o informare onestă creează încredere, iar apelanții care rămân tind să spună mai clar ce vor. O deschidere prietenoasă și o cale ușoară către un om reduc abandonul.
AI Act este singura lege care contează pentru agenții vocali?
Nu. Se aplică în continuare regulile privind protecția datelor, înregistrarea apelurilor, marketingul și consimțământul, precum și reglementările sectoriale. AI Act se adaugă acestora, nu le înlocuiește.