法规与合规

欧盟《人工智能法》与语音智能体:透明度基础

欧盟《人工智能法》的透明度义务对接听或拨打电话的语音智能体意味着什么,并附一份告知来电者正在与 AI 对话的检查清单。

Call 编辑部 · 发布于 · 阅读约需 6 分钟

如今的语音智能体已经足够出色,来电者可能直到通话结束都没意识到线路另一端并没有人。欧洲立法者注意到了这一点。欧盟《人工智能法》(条例 (EU) 2024/1689)包含专门针对与人交互的系统的透明度规则,而电话智能体正是一个典型例子。

一个人戴着耳麦坐在桌前,笔记本电脑屏幕上显示着一通通话
示意图

本指南用浅显的语言解释基本要点:透明度义务说了什么、由谁承担、对呼入和外呼意味着什么,以及如何将其融入通话流程。它是面向运营和产品团队的概览,并非法律意见。关于告知来电者 AI 的更全面介绍,请参阅是否应该告知来电者由 AI 在接听电话?。

一分钟了解该法

《人工智能法》按 AI 系统带来的风险进行分级,并为每一级规定相应义务。少数做法被禁止;一份明确列出的高风险用途清单承担繁重的义务;直接与人交互或生成合成音频、图像或视频的系统,则承担较轻的透明度义务。大多数一般商业用途不在高风险清单之内。

客服语音智能体通常属于透明度这一级,而不是高风险级。但这并不意味着它不受监管:数据保护规则和消费者法等其他法律依然适用。只不过《人工智能法》本身对这类系统的要求,主要在于诚实。

语音智能体处于哪一级

  • 禁止的做法操纵性或剥削性的用途被明令禁止。普通的接待或客服智能体并非为此设计,但您的提示词和脚本绝不能向这些方向偏移。
  • 高风险系统一份固定的用途清单,例如有关就业、信贷或基本服务的某些决定。请检查您的通话流程是否会作出或在很大程度上影响此类决定。
  • 透明度义务大多数电话智能体所属的一级:必须告知人们他们正在与 AI 系统交互,合成音频也应加以标记。
  • 其他一切其他法律依然适用,包括数据保护、录音规定和消费者保护。

透明度义务说了什么

简单来说,该法的透明度条款要求以下内容(存在若干例外):

按照最初的时间表,透明度义务计划自 2026 年 8 月起适用。该法部分内容的时间表一直在欧盟层面讨论,因此请在阅读本文时确认适用的日期。

什么时候算“显而易见”?

该法允许一个例外:当一个合理知情的人显然知道自己在与 AI 打交道时。在电话中,请不要依赖这一例外。自然的声音、像真人一样的名字和友好的语气,都会让这一点远非显而易见。拿不准时,就告知。

提供者还是部署者:谁承担哪些义务

该法区分了提供者(开发 AI 系统或委托他人开发,并以自己的名义将其投放市场的一方)和部署者(在其授权下使用系统的一方)。一家企业通过某个平台配置语音智能体并将其接入自己的电话线路,通常属于部署者,而平台供应商更接近提供者。许多义务由提供者承担,但部署者仍须按预期用途使用系统、在必要时让人类知情,并且不得去除安全保障措施。

提供者与部署者对比

提供者(构建或销售系统)部署者(投入使用)
典型示例语音智能体平台的供应商在自己线路上运行语音智能体的诊所、零售商或服务台
向人们告知构建系统,使其能够告诉人们正在与 AI 打交道确保线路在正确的位置、用正确的措辞真正告知来电者
合成音频标记在技术可行的情况下内置标记功能不移除或停用标记
日常管控文档与设计脚本、升级处理、监控与记录保存

如果不确定自己处于哪种角色,就假定自己至少承担部署者的义务,并询问供应商平台为您做了哪些工作。

呼入与外呼

呼入是较简单的情况。来电者是主动打给您的,您可以在智能体接手之前先用一句简短的话作说明。外呼则需要更加谨慎,因为对方并没有主动选择这次对话。告知应出现在头一两句话中,同时说明是谁来电、为何来电。

AI 处理通话的透明开场白

  1. 报出企业名称“您好,这里是港湾理疗的预约热线。”
  2. 说明是 AI“我是自动语音助手,不是真人。”
  3. 说明能做什么“我可以为您记录留言或预约请求。”
  4. 提供转人工“如果您更希望和工作人员通话,直接说一声就好。”
  5. 必要时提及录音“为保证服务质量,本次通话可能会被录音。”

以上示例均为假设,请根据您自己的业务调整。对于外呼活动,还须遵守关于自动来电和同意的单独规定,相关概述见自动外呼规定概览。

合成声音与克隆声音

文字转语音的声音属于合成音频,而克隆声音更进一步,模仿的是真实的人。标记义务主要由提供者承担,但作为部署者,您应当了解平台的做法,而且在未获得本人明确许可的情况下,绝不能使用真实人物的克隆声音。如果您的智能体使用某位知名员工的声音,要告诉来电者这是 AI 声音,而不是那位员工本人。

关于声音的更多内容,请参阅企业声音克隆:同意、质量与使用。

告知之外:还需要设计什么

透明度是底线,而不是上限。一个运营良好的语音智能体还需要以下这些:

围绕告知的实用保障措施

  • 联系真人的途径要求转人工的来电者应能顺利联系到人,或获得回电、留言的选择,而不必费一番周折。
  • 限制说话范围设置护栏,防止智能体编造答案或给出超出职责范围的建议。
  • 妥善处理数据只收集通话所需的信息,并告诉来电者录音和转写文本的用途。
  • 人工监督有人复查转写文本、处理升级事项,并能关闭智能体。

设计方面请参阅语音 AI 助手的安全护栏和语音 AI 的隐私保护设计。

实用准备清单

AI 语音智能体接听真实来电之前

  • 确定您对该系统而言是提供者、部署者还是两者兼有
  • 用平实的语言撰写告知,并放在每种通话类型的最前面
  • 确保来电者能联系到真人,或获得回电、留言
  • 向供应商确认合成音频如何标记
  • 检查数据保护和录音告知是否同样到位
  • 保留所用措辞及其修改日期的记录
  • 每周抽查一批真实通话,修正任何隐瞒 AI 身份的情况
  • 上线前再次查阅官方来源,确认时间表是否有变

在 Call 中实现

在 Call 中,运营方可以在「管理」的「电话与 AI」下列出必需的告知:填写名称、哪些措辞算作已告知,以及必须在第几秒之前说出。只有智能体自己说出的话才算数,来电者询问并不算。在电话线路上,您还可以选择来电者是否会听到录音与监听告知;在 AI 通话中,该告知会在问候语之前播放。来电者可以要求转人工,AI 智能体也可以转交通话;请参阅《在 Call 中把通话从 AI 智能体转给真人》。这些设置是否满足某项具体的法律义务,需要由您和您的顾问来判断。

常见问题

如果我的企业在欧盟以外,欧盟《人工智能法》适用于我吗?

可能适用。当系统的输出在欧盟境内被使用时(例如来电者身处欧盟),该法的效力可延伸至欧盟以外的提供者和部署者。如果您有欧盟来电者,请征求专业意见。

语音智能体必须始终说明自己是 AI 吗?

透明度规则要求告知人们正在与 AI 系统交互,除非这对于一个合理知情的人来说显而易见。在电话线路上,这一点很少是显而易见的,所以稳妥的做法是在每通电话开头附近说明。

透明度规则何时开始适用?

按照最初的时间表,计划自 2026 年 8 月起适用,但该法部分内容的时间表一直在讨论中。请在阅读本文时查阅欧盟委员会页面,确认现行有效的日期。

文字转语音的问候语算 AI 系统吗?

不进行交互的固定录音或合成问候语,与能够对话的智能体不同。但合成音频的标记义务仍可能相关,请询问供应商如何处理。

告知是 AI 会让来电者挂断吗?

有些人可能会,但诚实的告知能建立信任,留下来的来电者往往也更清楚自己想要什么。友好的开场和便捷的转人工途径可以减少流失。

《人工智能法》是语音智能体唯一需要关注的法律吗?

不是。数据保护、通话录音、营销与同意规则以及行业规定依然适用。《人工智能法》是对它们的补充,而不是取代。

在 Call 中为电话线路设置清晰的 AI 告知

在演示控制台中,您可以通过模拟体验来电。

相关指南