Předpisy a compliance

Akt EU o umělé inteligenci a hlasoví agenti: základy transparentnosti

Co povinnosti transparentnosti podle Aktu EU o umělé inteligenci znamenají pro hlasové agenty, kteří přijímají nebo uskutečňují hovory, s kontrolním seznamem.

Redakce Call · Zveřejněno · Čtení na 6 min

Hlasoví agenti jsou dnes tak dobří, že volající může dokončit rozhovor, aniž by si uvědomil, že na lince nebyl člověk. Evropští zákonodárci si toho všimli. Akt EU o umělé inteligenci (nařízení (EU) 2024/1689) obsahuje pravidla transparentnosti zaměřená přímo na systémy, které komunikují s lidmi, a telefonní agent je učebnicovým příkladem.

Člověk se sluchátky sedí u stolu a na obrazovce notebooku je zobrazen hovor
Ilustrační obrázek

Tento průvodce srozumitelně vysvětluje základy: co povinnost transparentnosti říká, na koho dopadá, co znamená pro příchozí a odchozí hovory a jak ji zabudovat do toku hovoru. Jde o přehled pro provozní a produktové týmy, ne o právní stanovisko. Širší pohled na informování volajících o AI nabízí článek Jak volajícím říct, že mluví s AI.

Akt za minutu

Akt o umělé inteligenci třídí systémy AI podle rizika, které představují, a ke každé úrovni připojuje povinnosti. Malý počet praktik je zakázán. Vymezený seznam vysoce rizikových využití nese náročné povinnosti. Systémy, které přímo komunikují s lidmi nebo vytvářejí syntetický zvuk, obraz či video, nesou lehčí povinnosti transparentnosti. Většina běžných firemních využití stojí mimo seznam vysoce rizikových.

Hlasový agent zákaznického servisu obvykle spadá do této úrovně transparentnosti, nikoli do vysoce rizikové. To neznamená, že je neregulovaný: dál platí jiné zákony, například pravidla ochrany osobních údajů a spotřebitelské právo. Vlastní požadavek Aktu o umělé inteligenci na tento druh systému se však týká hlavně poctivosti.

Kam hlasový agent patří

  • Zakázané praktikyManipulativní nebo zneužívající využití jsou přímo zakázána. Běžná recepční nebo agent podpory k nim navrženi nejsou, vaše prompty a scénáře by se k nim však nikdy neměly přiblížit.
  • Vysoce rizikové systémyPevný seznam využití, například určitá rozhodnutí o zaměstnání, úvěrech nebo základních službách. Ověřte, zda váš tok hovoru taková rozhodnutí činí nebo je výrazně ovlivňuje.
  • Povinnosti transparentnostiÚroveň, do které spadá většina telefonních agentů: lidé musí být informováni, že komunikují se systémem AI, a syntetický zvuk by měl být označen.
  • Vše ostatníDál platí jiné zákony, včetně ochrany osobních údajů, pravidel nahrávání a ochrany spotřebitele.

Co povinnost transparentnosti říká

Zjednodušeně řečeno článek aktu o transparentnosti požaduje, s určitými výjimkami, následující:

Podle původního harmonogramu se povinnosti transparentnosti mají uplatňovat od srpna 2026. Harmonogramy některých částí aktu se na úrovni EU projednávají, proto si ověřte data platná v době, kdy toto čtete.

Je to někdy zřejmé?

Akt připouští výjimku, když je přiměřeně informovanému člověku zřejmé, že jedná s AI. Na telefonu se o ni neopírejte. Přirozený hlas, lidsky znějící jméno a přátelský tón způsobí, že zřejmé to rozhodně není. Pokud si nejste jistí, oznamte to.

Poskytovatel, nebo zavádějící subjekt: kdo má jakou povinnost

Akt rozlišuje poskytovatele, kteří systém AI vyvíjejí nebo si ho nechávají vyvinout a uvádějí ho na trh pod svým jménem, a zavádějící subjekty, které systém používají ve své pravomoci. Firma, která nakonfiguruje hlasového agenta z platformy a nasadí ho na svou telefonní linku, je obvykle zavádějícím subjektem, zatímco dodavatel platformy má blíže k poskytovateli. Mnoho povinností leží na poskytovateli, zavádějící subjekt však musí systém používat k zamýšlenému účelu, informovat lidi tam, kde je to vyžadováno, a neodstraňovat ochranná opatření.

Poskytovatel a zavádějící subjekt vedle sebe

Poskytovatel (systém vyvíjí nebo prodává)Zavádějící subjekt (systém používá)
Typický příkladDodavatel platformy hlasových agentůKlinika, obchod nebo servisní pult, který na své lince provozuje hlasového agenta
Informování lidíStaví systém tak, aby mohl lidem sdělit, že jednají s AIZajišťuje, aby linka volajícím skutečně řekla, na správném místě a správnými slovy
Označení syntetického zvukuZabudovává označení, pokud je to technicky proveditelnéNeodstraňuje ho ani nevypíná
Každodenní řízeníDokumentace a návrhScénáře, eskalace, monitorování a vedení záznamů

Pokud si nejste jistí, jakou roli máte, předpokládejte, že máte alespoň povinnosti zavádějícího subjektu, a zeptejte se dodavatele, co za vás platforma dělá.

Příchozí a odchozí hovory

Příchozí hovory jsou jednodušší případ. Volající se rozhodl zavolat vám a vy můžete začít krátkým sdělením, než převezme agent. Odchozí hovory vyžadují víc péče, protože člověk si rozhovor nezvolil. Oznámení by mělo zaznít v první nebo druhé větě spolu s tím, kdo volá a proč.

Transparentní úvod hovoru vedeného AI

  1. Uveďte firmu„Dobrý den, tady objednávková linka fyzioterapie Přístav.“
  2. Řekněte, že jde o AI„Jsem automatický hlasový asistent, ne člověk.“
  3. Řekněte, co umí„Mohu přijmout vzkaz nebo žádost o termín.“
  4. Nabídněte člověka„Pokud byste raději mluvili s člověkem, stačí to říct.“
  5. Zmiňte nahrávání, je-li to relevantní„Tento hovor může být nahráván pro účely kontroly kvality.“

Tyto příklady jsou smyšlené; přizpůsobte je vlastní firmě. U odchozích kampaní dodržujte také samostatná pravidla pro automatizované hovory a souhlas, která shrnuje článek Automatizované hovory: přehled podle zemí.

Syntetické a klonované hlasy

Hlasy z převodu textu na řeč jsou syntetickým zvukem a klonovaný hlas jde ještě dál, protože napodobuje skutečného člověka. Povinnost označování leží hlavně na poskytovateli, jako zavádějící subjekt byste však měli rozumět tomu, co vaše platforma dělá, a nikdy byste neměli použít klonovaný hlas skutečného člověka bez jeho jasného svolení. Pokud váš agent mluví hlasem známého zaměstnance, řekněte volajícím, že jde o hlas AI, ne o tohoto zaměstnance.

Více o hlasech najdete v článku Klonování hlasu ve firmě: souhlas a limity.

Nad rámec oznámení: co dalšího zabudovat

Transparentnost je minimum, ne strop. Dobře provozovaný hlasový agent potřebuje také toto:

Praktická ochranná opatření kolem oznámení

  • Cesta k člověkuVolající, kteří chtějí člověka, by se k němu měli dostat, nebo dostat nabídku zpětného volání či vzkazu, a to bez boje.
  • Limity toho, co říkáMantinely, které agentovi brání vymýšlet si odpovědi nebo radit mimo svou působnost.
  • Péče o dataSbírejte jen to, co hovor potřebuje, a sdělte volajícím, jak se používají nahrávky a přepisy.
  • Lidský dohledNěkdo prochází přepisy, řeší eskalace a může agenta vypnout.

Návrhovou stránku popisují články Mantinely pro hlasové AI agenty a Ochrana soukromí již v návrhu hlasové AI.

Praktický kontrolní seznam připravenosti

Než hlasový AI agent začne přijímat živé hovory

  • Rozhodněte, zda jste u tohoto systému poskytovatelem, zavádějícím subjektem, nebo obojím
  • Napište oznámení jednoduchými slovy a umístěte ho na začátek každého typu hovoru
  • Zajistěte, aby se volající mohl dostat k člověku, ke zpětnému volání nebo ke vzkazu
  • Ověřte si u dodavatele, jak se označuje syntetický zvuk
  • Zkontrolujte, že jsou zavedena i upozornění na ochranu údajů a nahrávání
  • Veďte záznamy o použitém znění a datech jeho změn
  • Každý týden projděte vzorek skutečných hovorů a opravte ty, které AI zamlčely
  • Před spuštěním znovu zkontrolujte oficiální zdroje kvůli změnám harmonogramu

Jak na to v Call

V Call může provozovatel uvést požadovaná oznámení v sekci Správce > Telefonie a AI: zadáte popisek, slova, která se počítají jako jeho vyslovení, a počet sekund, do kdy musí zaznít. Počítá se jen vlastní řeč agenta, ne dotaz volajícího. U telefonní linky můžete také zvolit, zda volající uslyší upozornění na nahrávání a monitorování, a u hovorů s AI toto upozornění zazní před pozdravem. Volající může požádat o člověka a AI agenti mohou hovor předat; viz článek Předání hovoru od AI agenta člověku v Call. Zda tato nastavení splňují konkrétní právní povinnost, musíte posoudit vy a váš poradce.

Často kladené otázky

Vztahuje se na mě Akt EU o umělé inteligenci, i když moje firma sídlí mimo EU?

Může. Akt dopadá na poskytovatele a zavádějící subjekty mimo EU, pokud se výstup jejich systému používá v EU, například volajícími, kteří se tam nacházejí. Pokud máte volající z EU, poraďte se s odborníkem.

Musí hlasový agent vždy říct, že je AI?

Pravidlo transparentnosti vyžaduje, aby lidé byli informováni, že komunikují se systémem AI, pokud to přiměřeně informovanému člověku není zřejmé. Na telefonní lince to zřejmé bývá jen zřídka, proto je bezpečným návykem říct to na začátku každého hovoru.

Odkdy se pravidla transparentnosti uplatňují?

Podle původního harmonogramu se mají uplatňovat od srpna 2026, harmonogramy některých částí aktu se však projednávají. Data platná v době, kdy toto čtete, si ověřte na stránkách Evropské komise.

Je pozdrav vytvořený převodem textu na řeč systémem AI?

Pevně nahraný nebo syntetický pozdrav, který nekomunikuje, je něco jiného než agent, který vede rozhovor. Povinnosti označování syntetického zvuku však mohou být stále relevantní, proto se zeptejte dodavatele, jak je řeší.

Znamená oznámení AI, že volající zavěsí?

Někteří možná ano, poctivé oznámení však buduje důvěru a volající, kteří zůstanou, obvykle jasněji říkají, co chtějí. Přátelský úvod a snadná cesta k člověku snižují odchody.

Je Akt o umělé inteligenci jediným zákonem, na kterém u hlasových agentů záleží?

Ne. Dál platí pravidla ochrany osobních údajů, nahrávání hovorů, marketingu a souhlasu i odvětvová pravidla. Akt o umělé inteligenci je doplňuje, nenahrazuje.

Nastavte v Call jasné oznámení AI pro svou telefonní linku

V demo konzoli si můžete příchozí hovory vyzkoušet v simulaci.

Související průvodci