语音 AI 技术

让语音助手查询信息:工具与函数调用

电话语音助手的函数调用如何运作:查询与操作的区别、好工具的标准、语音输入带来的风险,以及如何让通话保持自然流畅。

Call 编辑部 · 发布于 · 阅读约需 5 分钟

每小时都在变化的信息,无法写进提示词里。订单状态、库存数量或预约空档,都只在某一时刻是正确的。要使用这类事实,语音助手需要一种向其他系统查询的途径,这种机制通常被称为函数调用或工具调用。

一位客服人员一边通话一边在屏幕上查询信息
示意图

本文用通俗的语言解释它的工作原理、好工具的标准、风险所在,以及这一思路与 Call 的 AI 助手目前的工作方式有何关系。关于语音处理链路本身的背景知识,请参阅语音 AI 在电话中如何工作。

工具调用如何运作

语言模型只会写文字,它无法打开数据库,也无法按下按钮。函数调用是一种约定:您向模型描述一组函数,包括名称、用途以及每个函数需要的输入,模型就可以在回应中请求使用其中某个函数。

一次工具调用的全过程

  1. 来电者提问例如:我的订单到哪儿了?
  2. 模型提出调用它返回一个函数名和参数,例如订单号。
  3. 您的软件进行校验检查参数、来电者的权限以及各项限制。
  4. 系统执行查询订单系统并获得结果。
  5. 结果返回给模型模型把数据转换成一句简短的口语回答。

关键在于,执行操作的是您的软件,而不是模型。这让您有一个地方可以执行规则、记录发生了什么,并拒绝任何不合理的请求。

查询与操作

并非所有工具的风险都相同。查询是读取信息,操作则会改变现实中的某些东西。要区别对待。

只读查询与会改变数据的操作

查询操作
示例营业时间、订单状态、排队长度取消预约、办理退款、更新地址
出错时的风险一个可以更正的错误回答一项可能难以撤销的更改
常见的防护措施身份核验、限定字段确认步骤、人工审批、审计日志
适合作为起点吗?是只有在查询运行良好之后

稳妥的做法是:上线时只开放查询,观察真实通话,再慢慢加入操作,任何有重大影响的操作都由真人确认。这与语音 AI 助手的安全护栏背后的思路是一致的。

好工具的标准

名称和描述很重要

模型根据您提供的名称和描述来挑选工具。含糊的措辞会导致错误的选择。把描述写成对一位新同事的说明:什么时候用这个工具、什么时候不用,以及每个输入代表什么。

语音输入很杂乱

参数来自语音。订单号可能错了一位数字,名字可能有不常见的写法。在使用关键值之前先向来电者复述确认,并把工具设计成在接近匹配时也能返回有帮助的结果。用语音准确获取姓名、号码和地址详细介绍了确认技巧。

需要在设计中规避的风险

工具调用会在哪里出错

  • 选错工具或参数模型误解了请求,所以执行前要校验所有内容。
  • 信息过度披露查询返回了来电者不该听到的内容,所以只返回需要的信息。
  • 身份未经核实把账户信息念给了错误的人,所以披露前要先核实身份。
  • 系统缓慢或故障出现冷场或令人困惑的错误,所以要设置时间上限和口头兜底回应。
  • 注入的指令查询结果中的文字试图向模型下达命令,所以要把结果仅仅当作数据来处理。

每种风险都有工程上的应对办法,但最安全的设计原则是:只给助手完成工作所需的最小权限。一个范围狭窄的查询就够用时,不要给它一个通用的数据库连接。

让通话保持自然

工具调用会增加时间:模型做决定、您的系统响应、模型撰写回答、再生成语音。来电者听到的是一片沉默。有帮助的做法包括:在查询之前给一个非常简短的回应、缓存很少变化的数值,以及每一轮只调用一次工具。语音 AI 延迟介绍了延迟的来源。如果查询失败或超时,助手应简短说明,并提出留言或转真人,而不是继续等待。

一个分步示例

设想一家假设中的家具店,它的助手负责回答关于配送的问题。店家定义了一个只读工具:输入订单号,返回配送状态和配送时间段。助手被告知,只有在来电者提供了订单号、并在听到复述后确认无误时,才能使用这个工具。

  1. 来电者说自己在等一张沙发,并报出了订单号。
  2. 助手把号码分组复述,来电者确认。
  3. 工具返回的状态是「配送中」,时间段是下午。
  4. 助手说订单正在配送中,预计今天下午送达,然后问还有没有其他需要。
  5. 如果工具返回「未找到」,助手会说找不到这个订单,并提出为团队记录留言。

请注意缺了什么:助手无法重新安排配送时间。如果来电者想换一天,助手会记下请求,由团队来处理。从这样一个范围狭窄、安全的工具开始,能让您在扩大范围之前了解来电者实际是怎么说话的。记录工具收到的每一次调用,这样您就能发现规律,例如某一位数字经常被听错,并在确认步骤中加以修正。

这与 Call 有何关系

在 Call 中,AI 助手依据它的指令、人设、线路绑定的脚本以及知识库中与问题匹配的段落作答。它的设计不是在通话中执行操作,例如预约或确认、回电、发送任何内容或提供折扣。它会说明这一点,并告知您资料中描述的途径,例如预约链接或由团队回电。对于经常变化的事实,请把它们放在助手的资料中并及时更新,需要真人处理的后续工作则交给服务台。如果您想把 Call 与自己的系统对接,开发者接口的介绍请参阅Call 开发者与 API;在围绕某项具体行为进行设计之前,请先确认它提供了哪些功能。

在评估任何宣传支持工具调用的平台时,请提出下面清单中的实际问题。

关于语音助手工具的问题

  • 它能访问哪些系统?拥有什么权限?
  • 查询与修改数据的操作是否分开?
  • 它发起的每一次调用是否都有日志,包括参数和结果?
  • 查询失败或变慢时会发生什么?
  • 有重大影响的操作能否由真人审批?
  • 在念出详细信息之前,如何核验来电者的身份?
  • 上线前能否用贴近真实的语音输入来测试工具?

评估方面请参阅如何评估语音助手的对话。

常见问题

用通俗的话说,函数调用是什么?

它是 AI 模型请求您的软件去做某件事的一种方式,比如查询订单。模型写出请求,您的系统执行并返回结果,再由模型来解释。

AI 会自己执行函数吗?

不会。模型只是提出调用请求,由您自己的代码检查并执行,这也正是您可以施加规则、限制和日志记录的地方。

让语音助手修改记录安全吗?

可以谨慎地去做,但请从只读查询开始。对于任何修改数据的操作,都要加入确认步骤和限制,在风险较高时还要加入人工审批。

为什么一次查询会让通话感觉变慢?

每一步都需要时间:决定调用、执行调用、撰写回答、再说出来。快速的工具、简短的回应,以及每轮只查询一次,能让延迟保持在可接受的范围内。

来电者能骗助手错误地使用工具吗?

他们可以尝试。在您的代码中校验参数、检查权限,并只给助手范围狭窄的工具,这样即使请求有误,也造成不了真正的损害。

Call 的 AI 助手会在我的系统中查询信息吗?

Call 的助手依据它的指令、脚本和知识来源工作,在通话中不会预约、发送或确认任何事情。请把会变化的事实放在它的资料中,后续跟进交给团队处理。

了解 Call 的 AI 助手如何依据您的资料作答

在演示控制台中,您可以通过模拟体验来电。

相关指南