Закон ЄС про ШІ та голосові агенти: основи прозорості
Що означають вимоги прозорості Закону ЄС про штучний інтелект для голосових агентів, які приймають або здійснюють дзвінки, і чек-лист повідомлення абонентів про ШІ.
Голосові агенти стали настільки якісними, що абонент може завершити розмову, не помітивши, що на лінії не було людини. Європейські законодавці це помітили. Закон ЄС про штучний інтелект (Регламент (ЄС) 2024/1689) містить правила прозорості, спрямовані саме на системи, що взаємодіють із людьми, і телефонний агент — хрестоматійний приклад.

Цей посібник простою мовою пояснює основи: що каже вимога прозорості, на кого вона покладається, що вона означає для вхідних і вихідних дзвінків і як вбудувати її у ваш сценарій дзвінка. Це огляд для операційних і продуктових команд, а не юридичний висновок. Ширшу картину того, як повідомляти абонентів про ШІ, див. у статті Як повідомити абонентам, що вони говорять зі ШІ.
Закон за одну хвилину
Закон про ШІ розподіляє системи ШІ за рівнем ризику й покладає на кожен рівень відповідні обов'язки. Невелика кількість практик заборонена. Визначений перелік високоризикових застосувань тягне за собою суворі зобов'язання. Системи, що безпосередньо взаємодіють із людьми або генерують синтетичне аудіо, зображення чи відео, мають легші зобов'язання щодо прозорості. Більшість звичайних бізнесових застосувань не входить до високоризикового переліку.
Голосовий агент служби обслуговування клієнтів зазвичай належить до рівня прозорості, а не до високоризикового. Це не означає, що він не регулюється: інші закони, як-от правила захисту даних і законодавство про захист прав споживачів, досі діють. Але власна вимога Закону про ШІ для такої системи стосується насамперед чесності.
Де опиняється голосовий агент
- Заборонені практикиМаніпулятивні чи експлуататорські застосування заборонено повністю. Звичайний ШІ-адміністратор чи агент підтримки для цього не призначений, але ваші промпти й сценарії ніколи не повинні в цей бік зміщуватися.
- Високоризикові системиФіксований перелік застосувань, як-от певні рішення щодо працевлаштування, кредитування чи основних послуг. Перевірте, чи ухвалює ваш сценарій дзвінка такі рішення або суттєво на них впливає.
- Вимоги прозоростіРівень, до якого належить більшість телефонних агентів: людям потрібно повідомляти, що вони взаємодіють із системою ШІ, а синтетичне аудіо слід маркувати.
- Усе іншеІнші закони досі діють, зокрема щодо захисту даних, запису й захисту прав споживачів.
Що каже вимога прозорості
Простими словами, стаття закону про прозорість вимагає такого, з певними винятками:
- Повідомляйте людям, що вони говорять зі ШІ. Постачальники систем ШІ, що безпосередньо взаємодіють із людьми, мають проєктувати їх так, щоб людину було поінформовано, якщо це не очевидно з обставин для розсудливо поінформованої особи.
- Маркуйте синтетичне аудіо. Постачальники систем, що генерують синтетичне аудіо, зображення, відео чи текст, мають забезпечити, щоб результат був позначений у машинозчитуваний спосіб і розпізнаваний як штучно згенерований, де це технічно можливо.
- Розкривайте діпфейки. Ті, хто впроваджує системи, що створюють або змінюють контент, схожий на реальних людей, місця чи події, мають розкривати, що він штучний.
- Інформуйте про розпізнавання емоцій. Користувачі систем розпізнавання емоцій чи біометричної категоризації мають повідомляти людей, на яких ці системи впливають.
Згідно з початковим графіком, вимоги прозорості мають застосовуватися з серпня 2026 року. Графіки для частин закону обговорювалися на рівні ЄС, тож перевірте дати, чинні на момент читання.
Чи буває це очевидним?
Закон допускає виняток, коли для розсудливо поінформованої особи очевидно, що вона має справу зі ШІ. На телефоні на це не покладайтеся. Природний голос, людське ім'я й дружній тон роблять це зовсім не очевидним. Якщо сумніваєтеся — повідомляйте.
Постачальник чи користувач: хто має які обов'язки
Закон розрізняє постачальників, які розробляють систему ШІ або замовляють її розроблення й виводять на ринок під власним ім'ям, і користувачів (deployers), які застосовують систему під своїм контролем. Компанія, що налаштовує голосового агента на платформі й підключає його до своєї телефонної лінії, зазвичай є користувачем, а постачальник платформи ближчий до ролі постачальника. Багато обов'язків покладено на постачальника, але користувач однаково має використовувати систему за призначенням, інформувати людей, де це потрібно, і не прибирати запобіжників.
Постачальник і користувач поруч
| Постачальник (створює чи продає систему) | Користувач (застосовує її) | |
|---|---|---|
| Типовий приклад | Постачальник платформи голосових агентів | Клініка, магазин чи служба підтримки, що використовує голосового агента на своїй лінії |
| Повідомлення людям | Будує систему так, щоб вона могла повідомляти людям, що вони мають справу зі ШІ | Забезпечує, щоб лінія справді повідомляла абонентам — у правильному місці й правильними словами |
| Маркування синтетичного аудіо | Вбудовує маркування, де це технічно можливо | Не прибирає й не вимикає його |
| Щоденне керування | Документація й дизайн | Сценарії, ескалація, моніторинг і облік |
Якщо ви не впевнені, яка у вас роль, вважайте, що на вас щонайменше обов'язки користувача, і запитайте постачальника, що платформа робить за вас.
Вхідні й вихідні дзвінки
Вхідні дзвінки — простіший випадок. Абонент сам вирішив вам зателефонувати, і ви можете почати з короткого повідомлення, перш ніж агент візьметься до справи. Вихідні дзвінки потребують більшої обережності, бо людина не обирала цієї розмови. Повідомлення має прозвучати в першому-другому реченні разом із тим, хто телефонує і навіщо.
Прозорий початок дзвінка, який обробляє ШІ
- Назвіть компанію«Добрий день, це лінія запису Harbour Physio».
- Скажіть, що це ШІ«Я автоматизований голосовий помічник, а не людина».
- Скажіть, що він уміє«Я можу прийняти повідомлення або запит на запис на прийом».
- Запропонуйте людину«Якщо ви хочете поговорити з працівником, просто скажіть».
- Згадайте запис, якщо це доречно«Цей дзвінок може записуватися з метою контролю якості».
Ці приклади гіпотетичні; адаптуйте їх до своєї компанії. Для вихідних кампаній також дотримуйтеся окремих правил щодо автоматизованих дзвінків і згоди, підсумованих у статті Автоматизовані дзвінки: огляд за країнами.
Синтетичні й клоновані голоси
Голоси синтезу мовлення — це синтетичне аудіо, а клонований голос іде далі, імітуючи реальну людину. Обов'язки щодо маркування покладено переважно на постачальника, але як користувач ви маєте розуміти, що робить ваша платформа, і ніколи не використовувати клонований голос реальної людини без її чіткого дозволу. Якщо ваш агент говорить голосом відомого працівника, повідомте абонентам, що це голос ШІ, а не цей працівник.
- Не давайте ШІ-агенту людської посади чи особистого імені, що натякає на людину, якщо це може ввести абонентів в оману.
- Якщо абонент щиро запитує, чи говорить він із людиною, щоразу відповідайте правдиво.
- Ведіть письмовий облік того, який голос і які формулювання використовує кожна лінія.
Більше про голоси див. у статті Клонування голосу для бізнесу: згода й обмеження.
Більше ніж повідомлення: що ще закласти в дизайн
Прозорість — це мінімум, а не стеля. Добре налаштованому голосовому агенту також потрібне таке:
Практичні запобіжники довкола повідомлення
- Шлях до людиниАбоненти, які просять людину, мають отримати її або пропозицію зворотного дзвінка чи повідомлення без боротьби.
- Обмеження щодо сказаногоЗапобіжники, які не дають агенту вигадувати відповіді чи давати поради поза своєю компетенцією.
- Дбайливе ставлення до данихЗбирайте лише те, що потрібно для дзвінка, і повідомляйте абонентам, як використовуються записи й розшифровки.
- Людський наглядХтось переглядає розшифровки, обробляє ескалації й може вимкнути агента.
Про дизайн див. статті Запобіжники для голосових ШІ-агентів і Конфіденційність за задумом у голосовому ШІ.
Практичний чек-лист готовності
Перш ніж голосовий ШІ-агент почне приймати реальні дзвінки
- Визначте, чи ви постачальник, користувач чи і те, і те для цієї системи
- Сформулюйте повідомлення простими словами й поставте його на початок кожного типу дзвінка
- Переконайтеся, що абонент може зв'язатися з людиною, замовити зворотний дзвінок чи залишити повідомлення
- Уточніть у постачальника, як маркується синтетичне аудіо
- Перевірте, що повідомлення про захист даних і запис також налаштовано
- Ведіть облік використаних формулювань і дат їх зміни
- Щотижня переглядайте вибірку реальних дзвінків і виправляйте ті, де ШІ було приховано
- Перед запуском повторно перевірте офіційні джерела щодо змін у графіку
Як це зробити в Call
У Call оператор може перелічити обов'язкові повідомлення в розділі «Телефонія та ШІ» адміністративної частини: ви задаєте назву, слова, які вважаються таким повідомленням, і кількість секунд, до спливу яких його має бути сказано. Враховується лише мовлення самого агента, а не запитання абонента про це. На телефонній лінії також можна обрати, чи чують абоненти повідомлення про запис і прослуховування, а на дзвінках зі ШІ це повідомлення звучить перед привітанням. Абонент може попросити людину, а ШІ-агенти можуть передати дзвінок; див. «Передавання дзвінків від ШІ-агента людині в Call». Чи задовольняють ці налаштування конкретну юридичну вимогу, вирішувати вам і вашому консультанту.
Часті запитання
Чи поширюється на мене Закон ЄС про ШІ, якщо моя компанія за межами ЄС?
Може поширюватися. Закон охоплює постачальників і користувачів за межами ЄС, коли результати роботи їхньої системи використовуються в ЄС, наприклад абонентами, які там перебувають. Якщо у вас є абоненти з ЄС, проконсультуйтеся.
Чи завжди голосовий агент має казати, що він ШІ?
Правило прозорості вимагає інформувати людей, що вони взаємодіють із системою ШІ, якщо це не очевидно для розсудливо поінформованої особи. На телефонній лінії це рідко буває очевидним, тож безпечна звичка — казати про це на початку кожного дзвінка.
Коли починають застосовуватися правила прозорості?
Згідно з початковим графіком, вони мають застосовуватися з серпня 2026 року, але терміни для частин закону обговорювалися. Перевірте дати, чинні на момент читання, на сторінках Європейської комісії.
Чи є привітання, озвучене синтезом мовлення, системою ШІ?
Фіксоване записане чи синтетичне привітання, яке не взаємодіє з абонентом, відрізняється від агента, що веде розмову. Обов'язки щодо маркування синтетичного аудіо можуть усе одно бути актуальними, тож запитайте постачальника, як він їх виконує.
Чи не почнуть абоненти класти слухавку, якщо повідомити про ШІ?
Дехто може, але чесне повідомлення формує довіру, а ті, хто залишається, зазвичай чіткіше формулюють, чого хочуть. Дружній початок і простий шлях до людини зменшують кількість обірваних дзвінків.
Чи Закон про ШІ — єдиний закон, важливий для голосових агентів?
Ні. Правила захисту даних, запису дзвінків, маркетингу й згоди, а також галузеві правила й далі діють. Закон про ШІ доповнює їх, а не замінює.