Akt EU o umělé inteligenci a hlasoví agenti: základy transparentnosti
Co povinnosti transparentnosti podle Aktu EU o umělé inteligenci znamenají pro hlasové agenty, kteří přijímají nebo uskutečňují hovory, s kontrolním seznamem.
Hlasoví agenti jsou dnes tak dobří, že volající může dokončit rozhovor, aniž by si uvědomil, že na lince nebyl člověk. Evropští zákonodárci si toho všimli. Akt EU o umělé inteligenci (nařízení (EU) 2024/1689) obsahuje pravidla transparentnosti zaměřená přímo na systémy, které komunikují s lidmi, a telefonní agent je učebnicovým příkladem.

Tento průvodce srozumitelně vysvětluje základy: co povinnost transparentnosti říká, na koho dopadá, co znamená pro příchozí a odchozí hovory a jak ji zabudovat do toku hovoru. Jde o přehled pro provozní a produktové týmy, ne o právní stanovisko. Širší pohled na informování volajících o AI nabízí článek Jak volajícím říct, že mluví s AI.
Akt za minutu
Akt o umělé inteligenci třídí systémy AI podle rizika, které představují, a ke každé úrovni připojuje povinnosti. Malý počet praktik je zakázán. Vymezený seznam vysoce rizikových využití nese náročné povinnosti. Systémy, které přímo komunikují s lidmi nebo vytvářejí syntetický zvuk, obraz či video, nesou lehčí povinnosti transparentnosti. Většina běžných firemních využití stojí mimo seznam vysoce rizikových.
Hlasový agent zákaznického servisu obvykle spadá do této úrovně transparentnosti, nikoli do vysoce rizikové. To neznamená, že je neregulovaný: dál platí jiné zákony, například pravidla ochrany osobních údajů a spotřebitelské právo. Vlastní požadavek Aktu o umělé inteligenci na tento druh systému se však týká hlavně poctivosti.
Kam hlasový agent patří
- Zakázané praktikyManipulativní nebo zneužívající využití jsou přímo zakázána. Běžná recepční nebo agent podpory k nim navrženi nejsou, vaše prompty a scénáře by se k nim však nikdy neměly přiblížit.
- Vysoce rizikové systémyPevný seznam využití, například určitá rozhodnutí o zaměstnání, úvěrech nebo základních službách. Ověřte, zda váš tok hovoru taková rozhodnutí činí nebo je výrazně ovlivňuje.
- Povinnosti transparentnostiÚroveň, do které spadá většina telefonních agentů: lidé musí být informováni, že komunikují se systémem AI, a syntetický zvuk by měl být označen.
- Vše ostatníDál platí jiné zákony, včetně ochrany osobních údajů, pravidel nahrávání a ochrany spotřebitele.
Co povinnost transparentnosti říká
Zjednodušeně řečeno článek aktu o transparentnosti požaduje, s určitými výjimkami, následující:
- Sdělte lidem, že mluví s AI. Poskytovatelé systémů AI, které přímo komunikují s lidmi, je musí navrhnout tak, aby byl člověk informován, pokud to přiměřeně informovanému člověku není z okolností zřejmé.
- Označte syntetický zvuk. Poskytovatelé systémů, které vytvářejí syntetický zvuk, obraz, video nebo text, musí zajistit, aby byl výstup označen strojově čitelným způsobem a byl rozpoznatelný jako uměle vytvořený, pokud je to technicky proveditelné.
- Oznamte deepfakes. Kdo nasazuje systémy vytvářející nebo upravující obsah, který se podobá skutečným lidem, místům nebo událostem, musí oznámit, že je umělý.
- Informujte lidi o rozpoznávání emocí. Zavádějící subjekty systémů rozpoznávání emocí nebo biometrické kategorizace musí informovat lidi, kteří jsou jim vystaveni.
Podle původního harmonogramu se povinnosti transparentnosti mají uplatňovat od srpna 2026. Harmonogramy některých částí aktu se na úrovni EU projednávají, proto si ověřte data platná v době, kdy toto čtete.
Je to někdy zřejmé?
Akt připouští výjimku, když je přiměřeně informovanému člověku zřejmé, že jedná s AI. Na telefonu se o ni neopírejte. Přirozený hlas, lidsky znějící jméno a přátelský tón způsobí, že zřejmé to rozhodně není. Pokud si nejste jistí, oznamte to.
Poskytovatel, nebo zavádějící subjekt: kdo má jakou povinnost
Akt rozlišuje poskytovatele, kteří systém AI vyvíjejí nebo si ho nechávají vyvinout a uvádějí ho na trh pod svým jménem, a zavádějící subjekty, které systém používají ve své pravomoci. Firma, která nakonfiguruje hlasového agenta z platformy a nasadí ho na svou telefonní linku, je obvykle zavádějícím subjektem, zatímco dodavatel platformy má blíže k poskytovateli. Mnoho povinností leží na poskytovateli, zavádějící subjekt však musí systém používat k zamýšlenému účelu, informovat lidi tam, kde je to vyžadováno, a neodstraňovat ochranná opatření.
Poskytovatel a zavádějící subjekt vedle sebe
| Poskytovatel (systém vyvíjí nebo prodává) | Zavádějící subjekt (systém používá) | |
|---|---|---|
| Typický příklad | Dodavatel platformy hlasových agentů | Klinika, obchod nebo servisní pult, který na své lince provozuje hlasového agenta |
| Informování lidí | Staví systém tak, aby mohl lidem sdělit, že jednají s AI | Zajišťuje, aby linka volajícím skutečně řekla, na správném místě a správnými slovy |
| Označení syntetického zvuku | Zabudovává označení, pokud je to technicky proveditelné | Neodstraňuje ho ani nevypíná |
| Každodenní řízení | Dokumentace a návrh | Scénáře, eskalace, monitorování a vedení záznamů |
Pokud si nejste jistí, jakou roli máte, předpokládejte, že máte alespoň povinnosti zavádějícího subjektu, a zeptejte se dodavatele, co za vás platforma dělá.
Příchozí a odchozí hovory
Příchozí hovory jsou jednodušší případ. Volající se rozhodl zavolat vám a vy můžete začít krátkým sdělením, než převezme agent. Odchozí hovory vyžadují víc péče, protože člověk si rozhovor nezvolil. Oznámení by mělo zaznít v první nebo druhé větě spolu s tím, kdo volá a proč.
Transparentní úvod hovoru vedeného AI
- Uveďte firmu„Dobrý den, tady objednávková linka fyzioterapie Přístav.“
- Řekněte, že jde o AI„Jsem automatický hlasový asistent, ne člověk.“
- Řekněte, co umí„Mohu přijmout vzkaz nebo žádost o termín.“
- Nabídněte člověka„Pokud byste raději mluvili s člověkem, stačí to říct.“
- Zmiňte nahrávání, je-li to relevantní„Tento hovor může být nahráván pro účely kontroly kvality.“
Tyto příklady jsou smyšlené; přizpůsobte je vlastní firmě. U odchozích kampaní dodržujte také samostatná pravidla pro automatizované hovory a souhlas, která shrnuje článek Automatizované hovory: přehled podle zemí.
Syntetické a klonované hlasy
Hlasy z převodu textu na řeč jsou syntetickým zvukem a klonovaný hlas jde ještě dál, protože napodobuje skutečného člověka. Povinnost označování leží hlavně na poskytovateli, jako zavádějící subjekt byste však měli rozumět tomu, co vaše platforma dělá, a nikdy byste neměli použít klonovaný hlas skutečného člověka bez jeho jasného svolení. Pokud váš agent mluví hlasem známého zaměstnance, řekněte volajícím, že jde o hlas AI, ne o tohoto zaměstnance.
- Nedávejte AI agentovi lidskou pracovní pozici ani osobní jméno naznačující člověka, pokud by to mohlo volající uvést v omyl.
- Když se volající upřímně zeptá, zda mluví s člověkem, odpovězte pokaždé pravdivě.
- Veďte písemný záznam o tom, jaký hlas a jaké znění která linka používá.
Více o hlasech najdete v článku Klonování hlasu ve firmě: souhlas a limity.
Nad rámec oznámení: co dalšího zabudovat
Transparentnost je minimum, ne strop. Dobře provozovaný hlasový agent potřebuje také toto:
Praktická ochranná opatření kolem oznámení
- Cesta k člověkuVolající, kteří chtějí člověka, by se k němu měli dostat, nebo dostat nabídku zpětného volání či vzkazu, a to bez boje.
- Limity toho, co říkáMantinely, které agentovi brání vymýšlet si odpovědi nebo radit mimo svou působnost.
- Péče o dataSbírejte jen to, co hovor potřebuje, a sdělte volajícím, jak se používají nahrávky a přepisy.
- Lidský dohledNěkdo prochází přepisy, řeší eskalace a může agenta vypnout.
Návrhovou stránku popisují články Mantinely pro hlasové AI agenty a Ochrana soukromí již v návrhu hlasové AI.
Praktický kontrolní seznam připravenosti
Než hlasový AI agent začne přijímat živé hovory
- Rozhodněte, zda jste u tohoto systému poskytovatelem, zavádějícím subjektem, nebo obojím
- Napište oznámení jednoduchými slovy a umístěte ho na začátek každého typu hovoru
- Zajistěte, aby se volající mohl dostat k člověku, ke zpětnému volání nebo ke vzkazu
- Ověřte si u dodavatele, jak se označuje syntetický zvuk
- Zkontrolujte, že jsou zavedena i upozornění na ochranu údajů a nahrávání
- Veďte záznamy o použitém znění a datech jeho změn
- Každý týden projděte vzorek skutečných hovorů a opravte ty, které AI zamlčely
- Před spuštěním znovu zkontrolujte oficiální zdroje kvůli změnám harmonogramu
Jak na to v Call
V Call může provozovatel uvést požadovaná oznámení v sekci Správce > Telefonie a AI: zadáte popisek, slova, která se počítají jako jeho vyslovení, a počet sekund, do kdy musí zaznít. Počítá se jen vlastní řeč agenta, ne dotaz volajícího. U telefonní linky můžete také zvolit, zda volající uslyší upozornění na nahrávání a monitorování, a u hovorů s AI toto upozornění zazní před pozdravem. Volající může požádat o člověka a AI agenti mohou hovor předat; viz článek Předání hovoru od AI agenta člověku v Call. Zda tato nastavení splňují konkrétní právní povinnost, musíte posoudit vy a váš poradce.
Často kladené otázky
Vztahuje se na mě Akt EU o umělé inteligenci, i když moje firma sídlí mimo EU?
Může. Akt dopadá na poskytovatele a zavádějící subjekty mimo EU, pokud se výstup jejich systému používá v EU, například volajícími, kteří se tam nacházejí. Pokud máte volající z EU, poraďte se s odborníkem.
Musí hlasový agent vždy říct, že je AI?
Pravidlo transparentnosti vyžaduje, aby lidé byli informováni, že komunikují se systémem AI, pokud to přiměřeně informovanému člověku není zřejmé. Na telefonní lince to zřejmé bývá jen zřídka, proto je bezpečným návykem říct to na začátku každého hovoru.
Odkdy se pravidla transparentnosti uplatňují?
Podle původního harmonogramu se mají uplatňovat od srpna 2026, harmonogramy některých částí aktu se však projednávají. Data platná v době, kdy toto čtete, si ověřte na stránkách Evropské komise.
Je pozdrav vytvořený převodem textu na řeč systémem AI?
Pevně nahraný nebo syntetický pozdrav, který nekomunikuje, je něco jiného než agent, který vede rozhovor. Povinnosti označování syntetického zvuku však mohou být stále relevantní, proto se zeptejte dodavatele, jak je řeší.
Znamená oznámení AI, že volající zavěsí?
Někteří možná ano, poctivé oznámení však buduje důvěru a volající, kteří zůstanou, obvykle jasněji říkají, co chtějí. Přátelský úvod a snadná cesta k člověku snižují odchody.
Je Akt o umělé inteligenci jediným zákonem, na kterém u hlasových agentů záleží?
Ne. Dál platí pravidla ochrany osobních údajů, nahrávání hovorů, marketingu a souhlasu i odvětvová pravidla. Akt o umělé inteligenci je doplňuje, nenahrazuje.