Predpisy a compliance

Akt EÚ o AI a hlasoví agenti: základy transparentnosti

Čo znamenajú povinnosti transparentnosti podľa aktu EÚ o AI pre hlasových agentov, ktorí prijímajú či uskutočňujú hovory, s kontrolným zoznamom oznámenia AI.

Redakcia Call · Zverejnené · Čítanie na 6 min

Hlasoví agenti sú dnes natoľko dobrí, že volajúci môže dokončiť rozhovor bez toho, aby si uvedomil, že na linke nebol človek. Európski zákonodarcovia si to všimli. Akt EÚ o umelej inteligencii (nariadenie (EÚ) 2024/1689) obsahuje pravidlá transparentnosti zamerané priamo na systémy, ktoré komunikujú s ľuďmi, a telefonický agent je učebnicovým príkladom.

Človek pri stole s náhlavnou súpravou, na obrazovke notebooku je zobrazený hovor
Ilustračný obrázok

Tento sprievodca zrozumiteľne vysvetľuje základy: čo povinnosť transparentnosti hovorí, koho sa týka, čo znamená pre prichádzajúce a odchádzajúce hovory a ako ju zapracovať do toku hovoru. Ide o prehľad pre prevádzkové a produktové tímy, nie o právne stanovisko. Širší pohľad na informovanie volajúcich o AI ponúka článok Máte oznámiť, že na vaše telefonáty odpovedá AI?.

Akt za jednu minútu

Akt o AI triedi systémy AI podľa rizika, ktoré predstavujú, a ku každej úrovni priraďuje povinnosti. Malý počet praktík je zakázaný. Vymedzený zoznam vysokorizikových použití nesie rozsiahle povinnosti. Systémy, ktoré priamo komunikujú s ľuďmi alebo generujú syntetický zvuk, obraz či video, nesú ľahšie povinnosti transparentnosti. Väčšina bežných firemných použití je mimo zoznamu vysokého rizika.

Hlasový agent zákazníckeho servisu zvyčajne patrí do úrovne transparentnosti, nie do vysokého rizika. To neznamená, že je bez regulácie: naďalej platia iné zákony, napríklad pravidlá ochrany údajov a spotrebiteľské právo. Vlastná požiadavka aktu o AI pre tento druh systému sa však týka predovšetkým úprimnosti.

Kam patrí hlasový agent

  • Zakázané praktikyManipulatívne alebo zneužívajúce použitia sú úplne zakázané. Bežná recepcia alebo agent podpory na to nie sú navrhnutí, ale vaše pokyny a scenáre by sa k nim nikdy nemali približovať.
  • Vysokorizikové systémyPevný zoznam použití, napríklad určité rozhodnutia o zamestnaní, úveroch alebo základných službách. Overte, či váš tok hovorov takéto rozhodnutia robí alebo ich výrazne ovplyvňuje.
  • Povinnosti transparentnostiÚroveň, do ktorej patrí väčšina telefonických agentov: ľudia musia byť informovaní, že komunikujú so systémom AI, a syntetický zvuk by mal byť označený.
  • Všetko ostatnéNaďalej platia iné zákony vrátane ochrany údajov, pravidiel nahrávania a ochrany spotrebiteľa.

Čo hovorí povinnosť transparentnosti

Zjednodušene, článok aktu o transparentnosti požaduje s niektorými výnimkami nasledovné:

Podľa pôvodného harmonogramu sa majú povinnosti transparentnosti uplatňovať od augusta 2026. O harmonogramoch niektorých častí aktu sa na úrovni EÚ diskutuje, preto si overte dátumy platné v čase, keď to čítate.

Je to niekedy zrejmé?

Akt pripúšťa výnimku, keď je primerane informovanej osobe zrejmé, že komunikuje s AI. Na telefóne sa na to nespoliehajte. Prirodzený hlas, ľudsky znejúce meno a priateľský tón robia z toho čokoľvek, len nie zrejmú vec. Ak si nie ste istí, oznámte to.

Poskytovateľ alebo nasadzovateľ: kto má akú povinnosť

Akt rozlišuje poskytovateľov, ktorí systém AI vyvíjajú alebo si ho dajú vyvinúť a uvádzajú ho na trh pod vlastným menom, a nasadzovateľov, ktorí systém používajú vo svojej právomoci. Firma, ktorá si nakonfiguruje hlasového agenta z platformy a nasadí ho na svoju telefónnu linku, je spravidla nasadzovateľom, kým dodávateľ platformy má bližšie k poskytovateľovi. Mnohé povinnosti nesie poskytovateľ, ale nasadzovateľ musí systém stále používať v súlade s určením, v požadovaných prípadoch informovať ľudí a neodstraňovať ochranné opatrenia.

Poskytovateľ a nasadzovateľ vedľa seba

Poskytovateľ (vyvíja alebo predáva systém)Nasadzovateľ (používa ho)
Typický príkladDodávateľ platformy hlasových agentovAmbulancia, predajca alebo servisná linka, ktorá na svojej linke prevádzkuje hlasového agenta
Informovanie ľudíVytvorí systém tak, aby dokázal ľuďom oznámiť, že komunikujú s AIZabezpečí, aby linka volajúcim naozaj oznámila, na správnom mieste a správnymi slovami
Označovanie syntetického zvukuZabuduje označovanie, ak je to technicky možnéNeodstráni ho ani nevypne
Každodenná kontrolaDokumentácia a návrhScenáre, eskalácia, monitorovanie a vedenie záznamov

Ak si nie ste istí, akú rolu máte, predpokladajte, že máte aspoň povinnosti nasadzovateľa, a opýtajte sa dodávateľa, čo za vás robí platforma.

Prichádzajúce a odchádzajúce hovory

Prichádzajúce hovory sú jednoduchší prípad. Volajúci sa rozhodol zavolať vám a vy môžete začať krátkym vyhlásením, kým agent prevezme rozhovor. Odchádzajúce hovory si vyžadujú viac pozornosti, pretože volaný si rozhovor nevybral. Oznámenie by malo zaznieť v prvej či druhej vete spolu s tým, kto volá a prečo.

Transparentný úvod hovoru vybavovaného AI

  1. Uveďte názov firmy„Dobrý deň, tu je rezervačná linka Harbour Physio.“
  2. Povedzte, že ide o AI„Som automatický hlasový asistent, nie človek.“
  3. Povedzte, čo dokáže„Môžem prijať odkaz alebo žiadosť o termín.“
  4. Ponúknite človeka„Ak by ste radšej hovorili s niekým z tímu, stačí to povedať.“
  5. Ak je to relevantné, spomeňte nahrávanie„Tento hovor môže byť nahrávaný na účely kvality.“

Tieto príklady sú hypotetické; prispôsobte ich svojej firme. Pri odchádzajúcich kampaniach dodržiavajte aj samostatné pravidlá pre automatizované hovory a súhlas, ktoré zhŕňa článok Automatizované hovory: prehľad podľa krajín.

Syntetické a klonované hlasy

Hlasy z prevodu textu na reč sú syntetickým zvukom a klonovaný hlas ide ešte ďalej, pretože napodobňuje skutočného človeka. Povinnosti označovania nesie najmä poskytovateľ, ale ako nasadzovateľ by ste mali rozumieť, čo vaša platforma robí, a nikdy nepoužívajte klonovaný hlas skutočnej osoby bez jej jasného povolenia. Ak váš agent hovorí hlasom známeho zamestnanca, povedzte volajúcim, že ide o hlas AI, nie o daného zamestnanca.

Viac o hlasoch nájdete v článku Klonovanie hlasu vo firme: súhlas a limity.

Nad rámec oznámenia: čo ešte zahrnúť do návrhu

Transparentnosť je minimum, nie strop. Dobre prevádzkovaný hlasový agent potrebuje aj toto:

Praktické záruky okolo oznámenia

  • Cesta k človekuVolajúci, ktorí žiadajú človeka, by sa k nemu mali dostať alebo dostať ponuku spätného volania či odkazu, a to bez boja.
  • Hranice toho, čo agent hovoríOchranné mantinely, ktoré agentovi bránia vymýšľať si odpovede alebo radiť mimo svojej pôsobnosti.
  • Starostlivosť o údajeZbierajte len to, čo hovor potrebuje, a povedzte volajúcim, ako sa používajú nahrávky a prepisy.
  • Ľudský dohľadNiekto kontroluje prepisy, rieši eskalácie a môže agenta vypnúť.

Návrhovej stránke sa venujú články Ochranné mantinely hlasovej AI a Ochrana súkromia v návrhu hlasovej AI.

Praktický kontrolný zoznam pripravenosti

Skôr než hlasový AI agent začne prijímať živé hovory

  • Rozhodnite, či ste pre tento systém poskytovateľom, nasadzovateľom alebo oboma
  • Napíšte oznámenie jednoduchými slovami a zaraďte ho na začiatok každého typu hovoru
  • Zabezpečte, aby sa volajúci dostal k človeku, spätnému volaniu alebo odkazu
  • Overte si u dodávateľa, ako sa označuje syntetický zvuk
  • Skontrolujte, že sú zavedené aj oznámenia o ochrane údajov a nahrávaní
  • Uchovávajte záznamy o použitých formuláciách a dátumoch ich zmien
  • Každý týždeň skontrolujte vzorku skutočných hovorov a opravte tie, ktoré AI zakryli
  • Pred spustením si v oficiálnych zdrojoch znova overte zmeny harmonogramu

Ako na to v Call

V Call môže prevádzkovateľ v sekcii Správca, Telefónia a AI zadať povinné oznámenia: uvediete označenie, slová, ktoré sa počítajú ako jeho vyslovenie, a počet sekúnd, do ktorých musí zaznieť. Počíta sa len reč samotného agenta, nie otázka volajúceho. Na telefónnej linke môžete tiež zvoliť, či volajúci počujú oznámenie o nahrávaní a monitorovaní, a pri hovoroch s AI toto oznámenie zaznie pred pozdravom. Volajúci môže požiadať o človeka a AI agenti môžu hovor odovzdať; pozrite si článok Odovzdanie hovoru od AI agenta človeku v Call. Či tieto nastavenia spĺňajú konkrétnu zákonnú povinnosť, musíte posúdiť vy a váš poradca.

Často kladené otázky

Vzťahuje sa na mňa akt EÚ o AI, ak je moja firma mimo EÚ?

Môže. Akt sa vzťahuje na poskytovateľov a nasadzovateľov mimo EÚ, keď sa výstup ich systému používa v EÚ, napríklad volajúcimi, ktorí sa tam nachádzajú. Ak máte volajúcich z EÚ, poraďte sa.

Musí hlasový agent vždy povedať, že je AI?

Pravidlo transparentnosti požaduje, aby boli ľudia informovaní, že komunikujú so systémom AI, pokiaľ to primerane informovanej osobe nie je zrejmé. Na telefónnej linke to zrejmé býva zriedka, preto je bezpečným zvykom povedať to na začiatku každého hovoru.

Odkedy sa pravidlá transparentnosti uplatňujú?

Podľa pôvodného harmonogramu sa majú uplatňovať od augusta 2026, ale o časových plánoch niektorých častí aktu sa diskutuje. Dátumy platné v čase čítania si overte na stránkach Európskej komisie.

Je pozdrav z prevodu textu na reč systémom AI?

Pevný nahratý alebo syntetický pozdrav, ktorý nekomunikuje, je niečo iné ako agent, ktorý vedie rozhovor. Povinnosti označovania syntetického zvuku však môžu byť relevantné, preto sa opýtajte dodávateľa, ako ich rieši.

Znamená oznámenie AI, že volajúci zložia?

Niektorí možno áno, ale úprimné oznámenie buduje dôveru a volajúci, ktorí zostanú, zvyčajne jasnejšie vyjadria, čo chcú. Priateľský úvod a jednoduchá cesta k človeku znižujú počet zložených hovorov.

Je akt o AI jediným zákonom, na ktorom pri hlasových agentoch záleží?

Nie. Naďalej platia pravidlá ochrany údajov, nahrávania hovorov, marketingu a súhlasu aj odvetvové pravidlá. Akt o AI ich dopĺňa, nenahrádza.

Nastavte v Call jasné oznámenie AI pre svoju telefónnu linku

V demo konzole si môžete vyskúšať prichádzajúce hovory v simulácii.

Súvisiace príručky