Akt EU-a o umjetnoj inteligenciji i glasovni agenti: transparentnost
Što obveze transparentnosti iz Akta EU-a o umjetnoj inteligenciji znače za glasovne agente koji primaju ili upućuju pozive, uz kontrolni popis za obavještavanje.
Glasovni agenti danas su toliko dobri da pozivatelj može završiti razgovor a da ne shvati da na liniji nije bilo osobe. Europski zakonodavci su to primijetili. Akt EU-a o umjetnoj inteligenciji (Uredba (EU) 2024/1689) sadrži pravila o transparentnosti usmjerena upravo na sustave koji komuniciraju s ljudima, a telefonski agent školski je primjer.

Ovaj vodič jednostavnim jezikom objašnjava osnove: što kaže obveza transparentnosti, na koga se odnosi, što znači za dolazne i odlazne pozive i kako je ugraditi u tijek poziva. Riječ je o pregledu za operativne i produktne timove, a ne o pravnom mišljenju. Za širu sliku o obavještavanju pozivatelja o AI-ju pogledajte Treba li reći da telefonske pozive prima umjetna inteligencija?.
Akt u jednoj minuti
Akt o umjetnoj inteligenciji razvrstava AI sustave prema riziku koji predstavljaju i svakoj razini pridružuje obveze. Mali broj praksi je zabranjen. Definirani popis visokorizičnih upotreba nosi teške obveze. Sustavi koji izravno komuniciraju s ljudima ili generiraju sintetički zvuk, sliku ili video nose lakše obveze transparentnosti. Većina općih poslovnih upotreba izvan je popisa visokorizičnih.
Glasovni agent korisničke službe obično pripada razini transparentnosti, a ne visokorizičnoj. To ne znači da je nereguliran: i dalje se primjenjuju drugi zakoni, poput pravila o zaštiti podataka i zakona o zaštiti potrošača. No vlastiti zahtjev Akta za ovakav sustav uglavnom se odnosi na iskrenost.
Gdje se uklapa glasovni agent
- Zabranjene prakseManipulativne ili iskorištavajuće upotrebe izravno su zabranjene. Obična recepcija ili agent podrške nisu osmišljeni za to, ali vaše upute i skripte nikad ne bi smjele skrenuti u tom smjeru.
- Visokorizični sustaviUtvrđeni popis upotreba, poput određenih odluka o zapošljavanju, kreditima ili osnovnim uslugama. Provjerite donosi li vaš tijek poziva takve odluke ili na njih snažno utječe.
- Obveze transparentnostiRazina u koju spada većina telefonskih agenata: ljude treba obavijestiti da komuniciraju s AI sustavom, a sintetički zvuk treba označiti.
- Sve ostaloI dalje se primjenjuju drugi zakoni, uključujući zaštitu podataka, pravila o snimanju i zaštitu potrošača.
Što kaže obveza transparentnosti
Jednostavno rečeno, članak Akta o transparentnosti traži sljedeće, uz neke iznimke:
- Recite ljudima da razgovaraju s AI-jem. Dobavljači AI sustava koji izravno komuniciraju s ljudima moraju ih osmisliti tako da osoba bude obaviještena, osim ako je to razumno informiranoj osobi očito iz okolnosti.
- Označite sintetički zvuk. Dobavljači sustava koji generiraju sintetički zvuk, slike, video ili tekst moraju osigurati da je rezultat označen u strojno čitljivom obliku i prepoznatljiv kao umjetno generiran, gdje je to tehnički izvedivo.
- Otkrijte deepfake sadržaj. Oni koji uvode sustave koji stvaraju ili mijenjaju sadržaj nalik stvarnim osobama, mjestima ili događajima moraju otkriti da je sadržaj umjetan.
- Obavijestite o prepoznavanju emocija. Subjekti koji uvode sustave za prepoznavanje emocija ili biometrijsku kategorizaciju moraju o tome obavijestiti osobe izložene tim sustavima.
Prema izvornom rasporedu obveze transparentnosti trebale bi se primjenjivati od kolovoza 2026. O rasporedima za dijelove Akta raspravljalo se na razini EU-a, pa kada ovo čitate, potvrdite koji datumi vrijede.
Je li to ikad očito?
Akt dopušta iznimku kada je razumno informiranoj osobi očito da komunicira s AI-jem. Na telefonu se na to ne oslanjajte. Prirodan glas, ime koje zvuči ljudski i prijateljski ton čine to sve samo ne očitim. Ako niste sigurni, obavijestite.
Dobavljač ili subjekt koji uvodi sustav: tko ima koju obvezu
Akt razlikuje dobavljače, koji razvijaju AI sustav ili ga daju razviti i stavljaju ga na tržište pod vlastitim imenom, od subjekata koji uvode sustav, koji sustav koriste pod svojom nadležnošću. Tvrtka koja konfigurira glasovnog agenta na platformi i postavi ga na svoju telefonsku liniju obično je subjekt koji uvodi sustav, dok je dobavljač platforme bliži ulozi dobavljača. Mnoge obveze ima dobavljač, ali subjekt koji uvodi sustav i dalje ga mora koristiti kako je predviđeno, obavještavati ljude gdje je to potrebno i ne smije uklanjati zaštitne mjere.
Dobavljač i subjekt koji uvodi sustav, jedan uz drugog
| Dobavljač (razvija ili prodaje sustav) | Subjekt koji uvodi sustav (koristi ga) | |
|---|---|---|
| Tipičan primjer | Dobavljač platforme za glasovne agente | Klinika, trgovina ili služba za podršku koja na svojoj liniji koristi glasovnog agenta |
| Obavještavanje ljudi | Gradi sustav tako da može reći ljudima da komuniciraju s AI-jem | Osigurava da linija pozivateljima to stvarno kaže, na pravom mjestu i pravim riječima |
| Označavanje sintetičkog zvuka | Ugrađuje označavanje gdje je tehnički izvedivo | Ne uklanja ga i ne isključuje |
| Svakodnevna kontrola | Dokumentacija i dizajn | Skripte, eskalacija, praćenje i vođenje evidencije |
Ako niste sigurni koju ulogu imate, pretpostavite da imate barem obveze subjekta koji uvodi sustav i pitajte dobavljača što platforma radi za vas.
Dolazni i odlazni pozivi
Dolazni pozivi jednostavniji su slučaj. Pozivatelj je sam odlučio nazvati vas, a vi možete početi kratkom izjavom prije nego što agent preuzme. Odlazni pozivi traže više pažnje jer osoba nije odabrala razgovor. Obavijest treba doći u prvoj ili drugoj rečenici, zajedno s time tko zove i zašto.
Transparentan početak poziva koji vodi AI
- Imenujte tvrtku„Dobar dan, ovo je linija za rezervacije fizioterapije Harbour Physio.”
- Recite da je riječ o AI-ju„Ja sam automatizirani glasovni asistent, a ne osoba.”
- Recite što može„Mogu zabilježiti poruku ili zahtjev za termin.”
- Ponudite osobu„Ako biste radije razgovarali s nekim, samo recite.”
- Spomenite snimanje ako je relevantno„Ovaj se poziv može snimati radi kontrole kvalitete.”
Ovi su primjeri hipotetski; prilagodite ih svojoj tvrtki. Kod odlaznih kampanja poštujte i zasebna pravila o automatiziranim pozivima i privoli, sažeta u članku Pravila o robotskim pozivima: pregled.
Sintetički i klonirani glasovi
Glasovi pretvorbe teksta u govor sintetički su zvuk, a klonirani glas ide i dalje oponašajući stvarnu osobu. Obveze označavanja uglavnom ima dobavljač, ali kao subjekt koji uvodi sustav trebate razumjeti što vaša platforma radi i nikad ne smijete koristiti klonirani glas stvarne osobe bez njezina jasnog dopuštenja. Ako vaš agent govori glasom poznatog zaposlenika, recite pozivateljima da je to AI glas, a ne taj zaposlenik.
- Ne dajte AI agentu ljudsko radno mjesto ili osobno ime koje upućuje na osobu ako bi pozivatelji mogli biti zavarani.
- Ako pozivatelj iskreno pita razgovara li s osobom, svaki put odgovorite istinito.
- Vodite pisanu evidenciju o tome koji glas i koju formulaciju koristi svaka linija.
Više o glasovima pročitajte u članku Kloniranje glasa za tvrtke: privola, kvaliteta i upotreba.
Više od obavijesti: što još ugraditi
Transparentnost je minimum, a ne vrhunac. Dobro vođenom glasovnom agentu potrebno je i ovo:
Praktične zaštitne mjere uz obavijest
- Put do osobePozivatelji koji traže čovjeka trebaju doći do njega ili dobiti ponudu povratnog poziva ili poruke, bez natezanja.
- Ograničenja onoga što govoriZaštitne mjere koje sprječavaju agenta da izmišlja odgovore ili daje savjete izvan svoje nadležnosti.
- Briga o podacimaPrikupljajte samo ono što je za poziv potrebno i recite pozivateljima kako se koriste snimke i transkripti.
- Ljudski nadzorNetko pregledava transkripte, rješava eskalacije i može isključiti agenta.
Za stranu dizajna pogledajte Zaštitne mjere za glasovne AI agente: sigurni pozivi na temi i Privatnost u dizajnu glasovnog AI-ja: podaci, obavijest i čuvanje.
Praktičan kontrolni popis spremnosti
Prije nego što AI glasovni agent počne primati pozive uživo
- Odlučite jeste li za ovaj sustav dobavljač, subjekt koji ga uvodi ili oboje
- Napišite obavijest jednostavnim riječima i stavite je na početak svake vrste poziva
- Pobrinite se da pozivatelj može doći do osobe, povratnog poziva ili poruke
- S dobavljačem potvrdite kako se označava sintetički zvuk
- Provjerite jesu li postavljene i obavijesti o zaštiti podataka i snimanju
- Vodite evidenciju korištenih formulacija i datuma njihovih promjena
- Svaki tjedan pregledajte uzorak stvarnih poziva i ispravite one u kojima je AI bio skriven
- Prije pokretanja ponovno provjerite službene izvore radi promjena rasporeda
Kako to izgleda u Callu
U Callu operater može navesti obavezne obavijesti u odjeljku Administrator, Telefonija i AI: unosite oznaku, riječi koje se računaju kao izgovorena obavijest i broj sekundi do kojeg mora biti izgovorena. Računa se samo govor agenta, a ne pitanje pozivatelja o tome. Na telefonskoj liniji možete odabrati i hoće li pozivatelji čuti obavijest o snimanju i praćenju, a kod AI poziva ta obavijest dolazi prije pozdrava. Pozivatelj može zatražiti osobu, a AI agenti mogu predati poziv; pogledajte vodič Predaja poziva s AI agenta osobi. Zadovoljavaju li te postavke određenu zakonsku obvezu, procjenjujete vi i vaš savjetnik.
Često postavljana pitanja
Primjenjuje li se Akt EU-a o umjetnoj inteligenciji na mene ako je moja tvrtka izvan EU-a?
Može se primjenjivati. Akt obuhvaća dobavljače i subjekte koji uvode sustave izvan EU-a kada se rezultati njihova sustava koriste u EU-u, primjerice kod pozivatelja koji se ondje nalaze. Ako imate pozivatelje iz EU-a, zatražite savjet.
Mora li glasovni agent uvijek reći da je AI?
Pravilo o transparentnosti traži da ljudi budu obaviješteni da komuniciraju s AI sustavom, osim ako je to razumno informiranoj osobi očito. Na telefonskoj liniji to je rijetko očito, pa je sigurna navika reći to blizu početka svakog poziva.
Od kada se primjenjuju pravila o transparentnosti?
Prema izvornom rasporedu trebala bi se primjenjivati od kolovoza 2026., ali o rokovima za dijelove Akta se raspravljalo. Datume koji vrijede u trenutku čitanja provjerite na stranicama Europske komisije.
Je li pozdrav pretvorbom teksta u govor AI sustav?
Fiksni snimljeni ili sintetički pozdrav koji ne komunicira razlikuje se od agenta koji vodi razgovor. Obveze označavanja sintetičkog zvuka ipak mogu biti relevantne, pa pitajte dobavljača kako ih rješava.
Znači li obavijest o AI-ju da će pozivatelji prekinuti vezu?
Neki možda hoće, ali iskrena obavijest gradi povjerenje, a pozivatelji koji ostanu obično jasnije kažu što žele. Prijateljski početak i jednostavan put do osobe smanjuju odustajanje.
Je li Akt o umjetnoj inteligenciji jedini zakon važan za glasovne agente?
Nije. I dalje se primjenjuju pravila o zaštiti podataka, snimanju poziva, marketingu i privoli te sektorska pravila. Akt o umjetnoj inteligenciji nadopunjuje ih, a ne zamjenjuje.