Правила и комплаенс

Регламент ЕС об ИИ и голосовые агенты: основы прозрачности

Что требования прозрачности Регламента ЕС об ИИ означают для голосовых агентов, принимающих и совершающих звонки, и чек-лист уведомления об ИИ.

Редакция Call · Опубликовано · Читать 6 мин

Голосовые агенты стали настолько хороши, что звонящий может закончить разговор, так и не поняв, что на линии не было человека. Европейские законодатели это заметили. Регламент ЕС об искусственном интеллекте (Регламент (ЕС) 2024/1689) содержит правила прозрачности, направленные именно на системы, которые взаимодействуют с людьми, а телефонный агент — хрестоматийный пример.

Человек в гарнитуре за столом, на экране ноутбука отображается звонок
Иллюстрация

В этом руководстве основы объяснены простым языком: что говорит требование прозрачности, на кого оно возлагается, что оно значит для входящих и исходящих звонков и как встроить его в сценарий звонка. Это обзор для операционных и продуктовых команд, а не юридическое заключение. Более широкая картина того, как сообщать звонящим об ИИ, — в статье Как сообщить звонящим, что они говорят с ИИ.

Регламент за одну минуту

Регламент об ИИ распределяет системы ИИ по уровню риска и закрепляет обязанности за каждым уровнем. Небольшое число практик запрещено. Определённый перечень применений с высоким риском влечёт серьёзные обязательства. Системы, которые напрямую взаимодействуют с людьми или создают синтетические аудио, изображения или видео, несут более лёгкие обязательства по прозрачности. Большинство обычных деловых применений в перечень высокого риска не входят.

Голосовой агент службы поддержки обычно относится к уровню прозрачности, а не высокого риска. Это не значит, что он не регулируется: действуют и другие законы, например о защите данных и правах потребителей. Но собственное требование регламента к такой системе касается в основном честности.

Где находится голосовой агент

  • Запрещённые практикиМанипулятивные или эксплуататорские применения запрещены полностью. Обычный ресепшн или агент поддержки для этого не предназначен, но ваши промпты и скрипты никогда не должны дрейфовать в эту сторону.
  • Системы высокого рискаЗакрытый перечень применений, например определённые решения о трудоустройстве, кредитах или основных услугах. Проверьте, не принимает ли ваш сценарий звонка такие решения и не влияет ли на них существенно.
  • Требования прозрачностиУровень, к которому относится большинство телефонных агентов: людям нужно сообщать, что они взаимодействуют с системой ИИ, а синтетический звук следует маркировать.
  • Всё остальноеПродолжают действовать другие законы, включая защиту данных, правила записи и защиту прав потребителей.

Что говорит требование прозрачности

Если упростить, статья регламента о прозрачности требует следующего, с некоторыми исключениями:

По первоначальному графику обязательства по прозрачности начинают применяться с августа 2026 года. Сроки для отдельных частей регламента обсуждались на уровне ЕС, поэтому уточните действующие даты на момент чтения.

Бывает ли это очевидно?

Регламент допускает исключение, если разумно осведомлённому человеку очевидно, что он имеет дело с ИИ. По телефону на это не стоит опираться. Естественный голос, человеческое имя и дружелюбный тон делают это далеко не очевидным. Если сомневаетесь — сообщайте.

Поставщик или эксплуатант: у кого какая обязанность

Регламент различает поставщиков, которые разрабатывают систему ИИ или заказывают её разработку и выводят на рынок под своим именем, и эксплуатантов, которые используют систему под своим контролем. Компания, которая настраивает голосового агента на платформе и подключает его к своей телефонной линии, обычно является эксплуатантом, а поставщик платформы ближе к роли поставщика. Многие обязанности лежат на поставщике, но эксплуатант всё равно должен использовать систему по назначению, информировать людей, где это требуется, и не отключать меры защиты.

Поставщик и эксплуатант рядом

Поставщик (создаёт или продаёт систему)Эксплуатант (применяет её)
Типичный примерРазработчик платформы голосовых агентовКлиника, магазин или служба поддержки, где на линии работает голосовой агент
Уведомление людейСоздаёт систему так, чтобы она могла сообщать людям, что они имеют дело с ИИСледит, чтобы линия действительно сообщала об этом звонящим — в нужном месте и нужными словами
Маркировка синтетического звукаВстраивает маркировку, где это технически осуществимоНе удаляет и не отключает её
Повседневный контрольДокументация и проектированиеСкрипты, эскалация, мониторинг и учёт

Если вы не уверены в своей роли, исходите из того, что на вас лежат как минимум обязанности эксплуатанта, и спросите поставщика, что платформа делает за вас.

Входящие и исходящие звонки

Входящие звонки — более простой случай. Звонящий сам решил вам позвонить, и можно начать с короткого заявления, прежде чем подключится агент. Исходящие звонки требуют большей осторожности, потому что человек не выбирал этот разговор. Уведомление должно прозвучать в первой-второй фразе вместе с тем, кто звонит и зачем.

Прозрачное начало звонка с ИИ

  1. Назовите компанию«Здравствуйте, это линия записи клиники „Гавань-физио“».
  2. Скажите, что это ИИ«Я автоматический голосовой помощник, а не человек».
  3. Скажите, что он умеет«Я могу принять сообщение или заявку на запись».
  4. Предложите человека«Если хотите поговорить с сотрудником, просто скажите».
  5. Упомяните запись, если она ведётся«Разговор может записываться для контроля качества».

Эти примеры условны; адаптируйте их под свою компанию. Для исходящих кампаний соблюдайте также отдельные правила об автоматических звонках и согласии, кратко изложенные в статье Автоматические звонки: обзор по странам.

Синтетические и клонированные голоса

Голоса синтеза речи — это синтетический звук, а клонированный голос идёт дальше, имитируя реального человека. Обязанности по маркировке лежат в основном на поставщике, но как эксплуатант вы должны понимать, что делает ваша платформа, и никогда не использовать клонированный голос реального человека без его явного разрешения. Если ваш агент говорит голосом известного сотрудника, сообщайте звонящим, что это голос ИИ, а не этот сотрудник.

Подробнее о голосах — в статье Клонирование голоса для бизнеса: согласие и пределы.

Помимо уведомления: что ещё заложить

Прозрачность — нижняя планка, а не потолок. Хорошо организованному голосовому агенту нужно ещё вот что:

Практические меры защиты вокруг уведомления

  • Путь к человекуЗвонящий, который просит человека, должен без борьбы дозвониться до него или получить предложение обратного звонка или сообщения.
  • Ограничения на то, что говорит агентОграничители, которые не дают агенту выдумывать ответы или давать советы за пределами своей компетенции.
  • Бережное обращение с даннымиСобирайте только то, что нужно для звонка, и сообщайте звонящим, как используются записи и расшифровки.
  • Надзор человекаКто-то просматривает расшифровки, обрабатывает эскалации и может отключить агента.

О проектировании — в статьях Ограничители для голосовых ИИ-агентов и Встроенная конфиденциальность для голосового ИИ.

Практический чек-лист готовности

Прежде чем голосовой ИИ-агент начнёт принимать реальные звонки

  • Определите, являетесь ли вы для этой системы поставщиком, эксплуатантом или и тем и другим
  • Напишите уведомление простыми словами и поставьте его первым для каждого типа звонков
  • Убедитесь, что звонящий может связаться с человеком, заказать обратный звонок или оставить сообщение
  • Уточните у поставщика, как маркируется синтетический звук
  • Проверьте, что уведомления о защите данных и записи тоже на месте
  • Храните используемые формулировки и даты их изменений
  • Еженедельно разбирайте выборку реальных звонков и исправляйте те, где ИИ не был раскрыт
  • Перед запуском перепроверьте официальные источники на предмет изменений графика

Как это сделать в Call

В Call оператор платформы может задать обязательные уведомления в разделе «Администрирование», «Телефония и ИИ»: вы указываете название, слова, которые считаются произнесённым уведомлением, и число секунд, к которому оно должно прозвучать. Учитывается только речь самого агента, а не вопрос звонящего об этом. Для телефонной линии можно также выбрать, слышат ли звонящие уведомление о записи и прослушивании; в звонках с ИИ это уведомление звучит перед приветствием. Звонящий может попросить соединить с человеком, а ИИ-агенты умеют передавать звонок; см. статью о передаче звонков от ИИ-агента человеку в Call. Достаточно ли этих настроек для выполнения конкретной юридической обязанности, решать вам и вашему консультанту.

Частые вопросы

Действует ли Регламент ЕС об ИИ, если моя компания находится за пределами ЕС?

Может действовать. Регламент распространяется на поставщиков и эксплуатантов за пределами ЕС, если результат работы их системы используется в ЕС, например звонящими, которые там находятся. Если у вас есть звонящие из ЕС, проконсультируйтесь.

Должен ли голосовой агент всегда говорить, что он ИИ?

Правило прозрачности требует информировать людей о взаимодействии с системой ИИ, если это не очевидно для разумно осведомлённого человека. На телефонной линии это редко очевидно, поэтому безопасная привычка — говорить об этом в начале каждого звонка.

Когда начинают применяться правила прозрачности?

По первоначальному графику — с августа 2026 года, но сроки для отдельных частей регламента обсуждались. Уточните действующие даты на страницах Европейской комиссии на момент чтения.

Является ли приветствие, озвученное синтезом речи, системой ИИ?

Фиксированное записанное или синтезированное приветствие, которое не ведёт диалог, отличается от агента, который поддерживает разговор. Обязанности по маркировке синтетического звука всё же могут быть актуальны, поэтому спросите поставщика, как он с ними работает.

Не станут ли звонящие класть трубку, узнав об ИИ?

Некоторые могут, но честное уведомление укрепляет доверие, а оставшиеся звонящие обычно чётче формулируют, что им нужно. Дружелюбное начало и лёгкий путь к человеку снижают число брошенных звонков.

Регламент об ИИ — единственный закон, важный для голосовых агентов?

Нет. Продолжают действовать правила о защите данных, записи звонков, маркетинге и согласии, а также отраслевые правила. Регламент об ИИ дополняет их, а не заменяет.

Настройте понятное уведомление об ИИ на телефонной линии в Call

В демо-консоли можно попробовать входящие звонки в режиме симуляции.

Похожие руководства

Правила и комплаенс

Контроль доступа в контакт-центре: роли и минимальные права

Как решить, кто что видит и может делать в контакт-центре: роли, минимальные привилегии, приход и уход сотрудников, записи, защита входа и регулярные проверки.

Редакция Call ·
Правила и комплаенс

Зачем контакт-центру журналы аудита и что в них записывать

Что такое журнал аудита, что контакт-центру стоит в нём фиксировать, как его читать, сколько хранить и как он помогает безопасности, качеству и доверию.

Редакция Call ·
Правила и комплаенс

Австралийский Do Not Call Register: основы для исходящих звонков

Как работает австралийский реестр Do Not Call Register: какие звонки охватывает, согласие, проверка списков, часы звонков, представление звонящего и учёт.

Редакция Call ·
Правила и комплаенс

Согласие одной или всех сторон на запись звонков

Чем различаются правила согласия одной стороны и всех сторон на запись звонков, почему сложны звонки через границы и какая простая политика работает везде.

Редакция Call ·