语音 AI 延迟:怎样的对话听起来才自然
语音 AI 为什么有时会停顿、延迟从何而来、来电者觉得怎样才自然,以及让电话智能体更快响应的实用做法。
在日常交谈中,人们几乎是立刻回应对方。电子邮件里不起眼的停顿,在电话里会显得很长。语音 AI 等得太久时,来电者会怀疑线路断了,说一声“喂?”,等答复终于来了又和它抢话。因此,延迟不是技术上的小插曲,而是质量的核心部分。

本指南说明延迟从何而来、来电者如何感知,以及减少延迟或让延迟不那么明显的方法,最后介绍如何在 Call 中检查速度。关于底层技术,请参阅语音 AI 的工作原理。
通话中的延迟指什么
延迟是指来电者停止说话到智能体开始回答之间的时间。来电者不会用毫秒去衡量,他们感受到的是犹豫。短暂自然的停顿没问题,甚至让人安心。长时间的空档会打破节奏,而节奏不均即便平均值可以接受,听起来也不自然。
另外两种延迟也很重要:一种是通话接通后第一句问候之前的时间,另一种是查询期间(例如核对记录)的时间。它们各需要单独处理。
延迟从何而来
一句语音回复要经过的环节
- 结束检测系统判断来电者已经说完。
- 识别语音被转为文字。
- 思考语言模型生成回复。
- 查询可选:调用其他系统获取事实。
- 语音合成文字被转为声音。
- 电话线路音频传到来电者那里并播放。
每个环节都会增加一点时间,合起来就很可观。结束检测这一步很容易被忽略:如果系统要等很长的静默才判定来电者说完,每次回复都会开始得很晚。设得太短又会出现相反的问题,智能体会打断停下来思考的来电者。
| 环节 | 受什么影响 | 典型的调节手段 |
|---|---|---|
| 结束检测 | 静默阈值、背景噪声 | 谨慎调整阈值 |
| 识别 | 音频质量、语言 | 清晰的音频、正确的语言设置 |
| 思考 | 回复长度、模型选择 | 简短的回复、合适的模型 |
| 查询 | 外部系统的速度 | 仅在需要时才查询 |
| 语音合成 | 音频是否流式传输 | 尽早开口 |
| 电话线路 | 网络距离 | 尽可能减少中转环节 |
来电者觉得怎样才自然
人们在不同时刻能容忍不同的延迟。在复杂回答之前稍作停顿显得自然,因为真人也会思考。而在回答“是”之后长时间沉默,则像出了故障。对简单问题要做到快速、稳定地回复,需要更多时间时要给出诚实的提示。
- 第一句话最关键。尽快开口能降低体感延迟,即使完整的回答耗时更长。
- 稳定的节奏比快慢参差的回复感觉更好。
- 简短的语气词可以掩盖查询的等待,但用多了会显得照本宣科、惹人心烦。
- 允许来电者打断,并在被打断时停下来,与速度同样重要。
打断
自然的对话中会有交叠。如果智能体不能被打断,来电者会觉得被单方面灌输;如果它听到一声咳嗽就停下,对话就会磕磕绊绊。详情请参阅插话与打断和语音智能体的轮流发言。
减少延迟的办法
有帮助的做法
- 简短的首句先说几个字,再继续。来电者能更早听到回答。
- 流式输出回复的第一部分一准备好就开始说,而不是等全部生成完。
- 预先准备的问候语提前准备好开场白,通话接通时立刻播放。
- 克制地查询只在问题需要时才获取外部信息,并保持查询快速。
提示词的设计也很重要。一小段话的回复,比一两句话的回复需要更长的生成和说出时间。要指示智能体简洁,并追问一个后续问题,而不是把知道的全部罗列出来。对于类似菜单的任务,在 AI 前面加一个简短的 IVR 步骤,就能即时处理简单的转接,把 AI 留给开放式问题。请参阅IVR 与 AI 语音智能体。
用“延迟预算”来思考
一个有用的思路,是把停顿看作一笔预算,每个环节都从中支出。同样的时间不能花两次,所以在一个环节节省下来的时间,可以为另一个环节的功能买单。例如,如果你想查询客户记录,可能需要通过缩短回复或收紧结束检测阈值,在别处省下时间。
- 列出适用于你的智能体的环节,注明哪些是固定的(电话网络),哪些是你能改变的(回复长度、查询、阈值)。
- 决定哪些问题值得查询。营业时间的问题永远不需要。
- 对耗时但有价值的步骤,例如查订单,给出一句诚实的引导语,让来电者知道正在发生什么。
- 每次增加功能后都要重新测试,因为每一项都在花同一笔预算。
这也有助于比较不同的服务商或设置。一个让声音更好听、却增加了明显停顿的改动,对电话线路来说可能并不划算,因为电话里时机比润色更重要。相比对话磕磕绊绊,来电者对声音稍显平淡要宽容得多。
一个假设的例子
设想一家小诊所,其智能体回答营业时间的问题并受理预约请求。大多数通话不需要查询,所以回复可以很快。诊所想增加核对来电者下一次预约的功能。它没有把查询加到每一通电话里,而是让智能体仅在来电者询问预约后才查询记录,并先说一句“我来帮您查一下”。简单的问题依然很快,较慢的那一步也如实告知。
正确地测量
在良好网络下做一次测试通话,说明不了什么。要在几天内的不同时段测量许多真实通话,并看分布,而不只是平均值。来电者记住的是最慢的那些回复。
一份简单的延迟测试计划
- 在一天中的不同时间拨打十通电话
- 简短问题、较长问题和需要查询的问题
- 分别从手机和固定电话拨打
- 嘈杂和安静的背景
- 记录最慢的回复及当时的问题
- 每次改动之后重复测试,确认确有改善
保留设置和结果的记录,以便知道哪些做法有效。上线前如何测试语音 AI 智能体更全面地介绍了测试,而语音 AI 评估指标说明了应该跟踪什么。
需要接受的局限
有些延迟无法消除。电话网络、语音服务和语言模型都需要时间,而且它们的质量在一天中会有波动。对任何固定响应时间的承诺都要保持警惕。现实的目标是做到像一个深思熟虑的人那样的节奏:简单问题快速作答,较慢的环节则诚实处理。
在 Call 中检查
在 Call 中,AI 智能体在回答的第一部分准备好后就开始说话;外呼电话的问候语在电话响铃期间就已准备好,接听的人能立刻听到。回复保持简短自然,没有“请稍等”之类的垫话。速度取决于电话网络以及 AI 和语音服务,因此每通电话的耗时都是测量出来的,而不是承诺出来的。管理者可以在「通话记录」中打开一通电话,查看每一轮发言用了多久。
在「语音」下的「智能体语音」中,「语音转写」设置包含「静音阈值」:调低它可以让轮流发言更快,如果智能体打断来电者则调高它。「会话」设置可以让你允许或禁止打断,并设定静默持续多久后结束通话。要听效果,请使用智能体所在行的测试通话,它会拨打你自己的手机;每次测试都是一通真实的、计费的通话。改动应用到线上线路之前,应先用几通电话检查。
常见问题
语音智能体的响应时间多快才算好?
没有固定数字。目标是让回答像深思熟虑的人那样:简单问题快速,较难的问题诚实地停顿一下。测量真实通话,看看自己处于什么水平。
我的 AI 智能体为什么有时会停顿很久?
常见原因有:在其他系统中进行查询、回复过长、网络缓慢,或静默阈值设得过长,等了很久才判定你说完。
语气词能解决延迟吗?
简短的语气词在查询期间可以起点作用,但要少用。用多了会显得照本宣科,也会让来电者更不耐烦。
更短的回复真的有帮助吗?
有。更短的回复生成和说出所需的时间都更少,也让来电者能更早做出回应。
应该允许来电者打断智能体吗?
通常应该。打断在对话中很自然。请测试这一设置,让智能体听到真正的说话时迅速停下,而不是因为一声咳嗽或简短的“嗯嗯”就停。
应该多久测试一次延迟?
每次修改提示词、声音、知识库或设置之后,并定期用真实通话测试,因为网络和服务速度会有变化。