欧盟《人工智能法》与语音智能体:透明度基础
欧盟《人工智能法》的透明度义务对接听或拨打电话的语音智能体意味着什么,并附一份告知来电者正在与 AI 对话的检查清单。
如今的语音智能体已经足够出色,来电者可能直到通话结束都没意识到线路另一端并没有人。欧洲立法者注意到了这一点。欧盟《人工智能法》(条例 (EU) 2024/1689)包含专门针对与人交互的系统的透明度规则,而电话智能体正是一个典型例子。

本指南用浅显的语言解释基本要点:透明度义务说了什么、由谁承担、对呼入和外呼意味着什么,以及如何将其融入通话流程。它是面向运营和产品团队的概览,并非法律意见。关于告知来电者 AI 的更全面介绍,请参阅是否应该告知来电者由 AI 在接听电话?。
一分钟了解该法
《人工智能法》按 AI 系统带来的风险进行分级,并为每一级规定相应义务。少数做法被禁止;一份明确列出的高风险用途清单承担繁重的义务;直接与人交互或生成合成音频、图像或视频的系统,则承担较轻的透明度义务。大多数一般商业用途不在高风险清单之内。
客服语音智能体通常属于透明度这一级,而不是高风险级。但这并不意味着它不受监管:数据保护规则和消费者法等其他法律依然适用。只不过《人工智能法》本身对这类系统的要求,主要在于诚实。
语音智能体处于哪一级
- 禁止的做法操纵性或剥削性的用途被明令禁止。普通的接待或客服智能体并非为此设计,但您的提示词和脚本绝不能向这些方向偏移。
- 高风险系统一份固定的用途清单,例如有关就业、信贷或基本服务的某些决定。请检查您的通话流程是否会作出或在很大程度上影响此类决定。
- 透明度义务大多数电话智能体所属的一级:必须告知人们他们正在与 AI 系统交互,合成音频也应加以标记。
- 其他一切其他法律依然适用,包括数据保护、录音规定和消费者保护。
透明度义务说了什么
简单来说,该法的透明度条款要求以下内容(存在若干例外):
- 告诉人们他们在与 AI 对话。直接与人交互的 AI 系统的提供者,必须在设计上确保对方知情,除非对于一个合理知情的人而言,从具体情境来看这一点是显而易见的。
- 标记合成音频。生成合成音频、图像、视频或文本的系统的提供者,必须在技术可行的情况下,确保输出内容以机器可读的方式加以标记,并可被识别为人工生成。
- 披露深度伪造内容。部署系统来创建或篡改与真实人物、地点或事件相似的内容的一方,必须披露其为人工生成。
- 告知情绪识别。情绪识别或生物特征分类系统的部署者,必须告知受其影响的人。
按照最初的时间表,透明度义务计划自 2026 年 8 月起适用。该法部分内容的时间表一直在欧盟层面讨论,因此请在阅读本文时确认适用的日期。
什么时候算“显而易见”?
该法允许一个例外:当一个合理知情的人显然知道自己在与 AI 打交道时。在电话中,请不要依赖这一例外。自然的声音、像真人一样的名字和友好的语气,都会让这一点远非显而易见。拿不准时,就告知。
提供者还是部署者:谁承担哪些义务
该法区分了提供者(开发 AI 系统或委托他人开发,并以自己的名义将其投放市场的一方)和部署者(在其授权下使用系统的一方)。一家企业通过某个平台配置语音智能体并将其接入自己的电话线路,通常属于部署者,而平台供应商更接近提供者。许多义务由提供者承担,但部署者仍须按预期用途使用系统、在必要时让人类知情,并且不得去除安全保障措施。
提供者与部署者对比
| 提供者(构建或销售系统) | 部署者(投入使用) | |
|---|---|---|
| 典型示例 | 语音智能体平台的供应商 | 在自己线路上运行语音智能体的诊所、零售商或服务台 |
| 向人们告知 | 构建系统,使其能够告诉人们正在与 AI 打交道 | 确保线路在正确的位置、用正确的措辞真正告知来电者 |
| 合成音频标记 | 在技术可行的情况下内置标记功能 | 不移除或停用标记 |
| 日常管控 | 文档与设计 | 脚本、升级处理、监控与记录保存 |
如果不确定自己处于哪种角色,就假定自己至少承担部署者的义务,并询问供应商平台为您做了哪些工作。
呼入与外呼
呼入是较简单的情况。来电者是主动打给您的,您可以在智能体接手之前先用一句简短的话作说明。外呼则需要更加谨慎,因为对方并没有主动选择这次对话。告知应出现在头一两句话中,同时说明是谁来电、为何来电。
AI 处理通话的透明开场白
- 报出企业名称“您好,这里是港湾理疗的预约热线。”
- 说明是 AI“我是自动语音助手,不是真人。”
- 说明能做什么“我可以为您记录留言或预约请求。”
- 提供转人工“如果您更希望和工作人员通话,直接说一声就好。”
- 必要时提及录音“为保证服务质量,本次通话可能会被录音。”
以上示例均为假设,请根据您自己的业务调整。对于外呼活动,还须遵守关于自动来电和同意的单独规定,相关概述见自动外呼规定概览。
合成声音与克隆声音
文字转语音的声音属于合成音频,而克隆声音更进一步,模仿的是真实的人。标记义务主要由提供者承担,但作为部署者,您应当了解平台的做法,而且在未获得本人明确许可的情况下,绝不能使用真实人物的克隆声音。如果您的智能体使用某位知名员工的声音,要告诉来电者这是 AI 声音,而不是那位员工本人。
- 如果可能误导来电者,就不要给 AI 智能体起暗示真人的职位头衔或个人姓名。
- 如果来电者真诚地询问自己是否在和真人通话,每次都要如实回答。
- 书面记录每条线路使用的声音和措辞。
关于声音的更多内容,请参阅企业声音克隆:同意、质量与使用。
告知之外:还需要设计什么
透明度是底线,而不是上限。一个运营良好的语音智能体还需要以下这些:
围绕告知的实用保障措施
- 联系真人的途径要求转人工的来电者应能顺利联系到人,或获得回电、留言的选择,而不必费一番周折。
- 限制说话范围设置护栏,防止智能体编造答案或给出超出职责范围的建议。
- 妥善处理数据只收集通话所需的信息,并告诉来电者录音和转写文本的用途。
- 人工监督有人复查转写文本、处理升级事项,并能关闭智能体。
设计方面请参阅语音 AI 助手的安全护栏和语音 AI 的隐私保护设计。
实用准备清单
AI 语音智能体接听真实来电之前
- 确定您对该系统而言是提供者、部署者还是两者兼有
- 用平实的语言撰写告知,并放在每种通话类型的最前面
- 确保来电者能联系到真人,或获得回电、留言
- 向供应商确认合成音频如何标记
- 检查数据保护和录音告知是否同样到位
- 保留所用措辞及其修改日期的记录
- 每周抽查一批真实通话,修正任何隐瞒 AI 身份的情况
- 上线前再次查阅官方来源,确认时间表是否有变
在 Call 中实现
在 Call 中,运营方可以在「管理」的「电话与 AI」下列出必需的告知:填写名称、哪些措辞算作已告知,以及必须在第几秒之前说出。只有智能体自己说出的话才算数,来电者询问并不算。在电话线路上,您还可以选择来电者是否会听到录音与监听告知;在 AI 通话中,该告知会在问候语之前播放。来电者可以要求转人工,AI 智能体也可以转交通话;请参阅《在 Call 中把通话从 AI 智能体转给真人》。这些设置是否满足某项具体的法律义务,需要由您和您的顾问来判断。
常见问题
如果我的企业在欧盟以外,欧盟《人工智能法》适用于我吗?
可能适用。当系统的输出在欧盟境内被使用时(例如来电者身处欧盟),该法的效力可延伸至欧盟以外的提供者和部署者。如果您有欧盟来电者,请征求专业意见。
语音智能体必须始终说明自己是 AI 吗?
透明度规则要求告知人们正在与 AI 系统交互,除非这对于一个合理知情的人来说显而易见。在电话线路上,这一点很少是显而易见的,所以稳妥的做法是在每通电话开头附近说明。
透明度规则何时开始适用?
按照最初的时间表,计划自 2026 年 8 月起适用,但该法部分内容的时间表一直在讨论中。请在阅读本文时查阅欧盟委员会页面,确认现行有效的日期。
文字转语音的问候语算 AI 系统吗?
不进行交互的固定录音或合成问候语,与能够对话的智能体不同。但合成音频的标记义务仍可能相关,请询问供应商如何处理。
告知是 AI 会让来电者挂断吗?
有些人可能会,但诚实的告知能建立信任,留下来的来电者往往也更清楚自己想要什么。友好的开场和便捷的转人工途径可以减少流失。
《人工智能法》是语音智能体唯一需要关注的法律吗?
不是。数据保护、通话录音、营销与同意规则以及行业规定依然适用。《人工智能法》是对它们的补充,而不是取代。