语音 AI 技术

语音 AI 延迟:怎样的对话听起来才自然

语音 AI 为什么有时会停顿、延迟从何而来、来电者觉得怎样才自然,以及让电话智能体更快响应的实用做法。

Call 编辑部 · 发布于 · 阅读约需 5 分钟

在日常交谈中,人们几乎是立刻回应对方。电子邮件里不起眼的停顿,在电话里会显得很长。语音 AI 等得太久时,来电者会怀疑线路断了,说一声“喂?”,等答复终于来了又和它抢话。因此,延迟不是技术上的小插曲,而是质量的核心部分。

屏幕上的声波旁,一个人正对着耳麦麦克风说话
示意图

本指南说明延迟从何而来、来电者如何感知,以及减少延迟或让延迟不那么明显的方法,最后介绍如何在 Call 中检查速度。关于底层技术,请参阅语音 AI 的工作原理。

通话中的延迟指什么

延迟是指来电者停止说话到智能体开始回答之间的时间。来电者不会用毫秒去衡量,他们感受到的是犹豫。短暂自然的停顿没问题,甚至让人安心。长时间的空档会打破节奏,而节奏不均即便平均值可以接受,听起来也不自然。

另外两种延迟也很重要:一种是通话接通后第一句问候之前的时间,另一种是查询期间(例如核对记录)的时间。它们各需要单独处理。

延迟从何而来

一句语音回复要经过的环节

  1. 结束检测系统判断来电者已经说完。
  2. 识别语音被转为文字。
  3. 思考语言模型生成回复。
  4. 查询可选:调用其他系统获取事实。
  5. 语音合成文字被转为声音。
  6. 电话线路音频传到来电者那里并播放。

每个环节都会增加一点时间,合起来就很可观。结束检测这一步很容易被忽略:如果系统要等很长的静默才判定来电者说完,每次回复都会开始得很晚。设得太短又会出现相反的问题,智能体会打断停下来思考的来电者。

环节受什么影响典型的调节手段
结束检测静默阈值、背景噪声谨慎调整阈值
识别音频质量、语言清晰的音频、正确的语言设置
思考回复长度、模型选择简短的回复、合适的模型
查询外部系统的速度仅在需要时才查询
语音合成音频是否流式传输尽早开口
电话线路网络距离尽可能减少中转环节

来电者觉得怎样才自然

人们在不同时刻能容忍不同的延迟。在复杂回答之前稍作停顿显得自然,因为真人也会思考。而在回答“是”之后长时间沉默,则像出了故障。对简单问题要做到快速、稳定地回复,需要更多时间时要给出诚实的提示。

打断

自然的对话中会有交叠。如果智能体不能被打断,来电者会觉得被单方面灌输;如果它听到一声咳嗽就停下,对话就会磕磕绊绊。详情请参阅插话与打断和语音智能体的轮流发言。

减少延迟的办法

有帮助的做法

  • 简短的首句先说几个字,再继续。来电者能更早听到回答。
  • 流式输出回复的第一部分一准备好就开始说,而不是等全部生成完。
  • 预先准备的问候语提前准备好开场白,通话接通时立刻播放。
  • 克制地查询只在问题需要时才获取外部信息,并保持查询快速。

提示词的设计也很重要。一小段话的回复,比一两句话的回复需要更长的生成和说出时间。要指示智能体简洁,并追问一个后续问题,而不是把知道的全部罗列出来。对于类似菜单的任务,在 AI 前面加一个简短的 IVR 步骤,就能即时处理简单的转接,把 AI 留给开放式问题。请参阅IVR 与 AI 语音智能体。

用“延迟预算”来思考

一个有用的思路,是把停顿看作一笔预算,每个环节都从中支出。同样的时间不能花两次,所以在一个环节节省下来的时间,可以为另一个环节的功能买单。例如,如果你想查询客户记录,可能需要通过缩短回复或收紧结束检测阈值,在别处省下时间。

这也有助于比较不同的服务商或设置。一个让声音更好听、却增加了明显停顿的改动,对电话线路来说可能并不划算,因为电话里时机比润色更重要。相比对话磕磕绊绊,来电者对声音稍显平淡要宽容得多。

一个假设的例子

设想一家小诊所,其智能体回答营业时间的问题并受理预约请求。大多数通话不需要查询,所以回复可以很快。诊所想增加核对来电者下一次预约的功能。它没有把查询加到每一通电话里,而是让智能体仅在来电者询问预约后才查询记录,并先说一句“我来帮您查一下”。简单的问题依然很快,较慢的那一步也如实告知。

正确地测量

在良好网络下做一次测试通话,说明不了什么。要在几天内的不同时段测量许多真实通话,并看分布,而不只是平均值。来电者记住的是最慢的那些回复。

一份简单的延迟测试计划

  • 在一天中的不同时间拨打十通电话
  • 简短问题、较长问题和需要查询的问题
  • 分别从手机和固定电话拨打
  • 嘈杂和安静的背景
  • 记录最慢的回复及当时的问题
  • 每次改动之后重复测试,确认确有改善

保留设置和结果的记录,以便知道哪些做法有效。上线前如何测试语音 AI 智能体更全面地介绍了测试,而语音 AI 评估指标说明了应该跟踪什么。

需要接受的局限

有些延迟无法消除。电话网络、语音服务和语言模型都需要时间,而且它们的质量在一天中会有波动。对任何固定响应时间的承诺都要保持警惕。现实的目标是做到像一个深思熟虑的人那样的节奏:简单问题快速作答,较慢的环节则诚实处理。

在 Call 中检查

在 Call 中,AI 智能体在回答的第一部分准备好后就开始说话;外呼电话的问候语在电话响铃期间就已准备好,接听的人能立刻听到。回复保持简短自然,没有“请稍等”之类的垫话。速度取决于电话网络以及 AI 和语音服务,因此每通电话的耗时都是测量出来的,而不是承诺出来的。管理者可以在「通话记录」中打开一通电话,查看每一轮发言用了多久。

在「语音」下的「智能体语音」中,「语音转写」设置包含「静音阈值」:调低它可以让轮流发言更快,如果智能体打断来电者则调高它。「会话」设置可以让你允许或禁止打断,并设定静默持续多久后结束通话。要听效果,请使用智能体所在行的测试通话,它会拨打你自己的手机;每次测试都是一通真实的、计费的通话。改动应用到线上线路之前,应先用几通电话检查。

常见问题

语音智能体的响应时间多快才算好?

没有固定数字。目标是让回答像深思熟虑的人那样:简单问题快速,较难的问题诚实地停顿一下。测量真实通话,看看自己处于什么水平。

我的 AI 智能体为什么有时会停顿很久?

常见原因有:在其他系统中进行查询、回复过长、网络缓慢,或静默阈值设得过长,等了很久才判定你说完。

语气词能解决延迟吗?

简短的语气词在查询期间可以起点作用,但要少用。用多了会显得照本宣科,也会让来电者更不耐烦。

更短的回复真的有帮助吗?

有。更短的回复生成和说出所需的时间都更少,也让来电者能更早做出回应。

应该允许来电者打断智能体吗?

通常应该。打断在对话中很自然。请测试这一设置,让智能体听到真正的说话时迅速停下,而不是因为一声咳嗽或简短的“嗯嗯”就停。

应该多久测试一次延迟?

每次修改提示词、声音、知识库或设置之后,并定期用真实通话测试,因为网络和服务速度会有变化。

在 Call 中测试 AI 智能体的响应速度

在演示控制台中,您可以通过模拟体验来电。

相关指南