電話の音声AIに作り話をさせない方法
音声エージェントが事実でないことを話してしまう理由と、それを抑える実践的な手順を解説します。根拠のあるソース、安全な代替応答、引っかけ質問、見直しまで。
音声エージェントに営業時間を尋ねれば、なめらかに答えます。問題は、教えていないことについても同じようになめらかに答えるときに起こります。これが、ハルシネーションと呼ばれるものです。もっともらしく聞こえても、情報に根拠がない出力のことです。

電話では、チャット画面より危険が大きくなります。お客様が聞くのは自信ありげな1文だけで、リンクも出典も、戻る簡単な方法もありません。このガイドでは、ハルシネーションが起こる理由、減らし方、対策が効いているかの確認方法を説明します。
ハルシネーションとは何か、なぜ起こるか
言語モデルは、会話のもっともらしい続きを生成します。膨大な量のテキストで学習しており、どの記述が自社にとって正しいかを判断する仕組みは備えていません。プロンプトやソースに答えがない場合、モデルはその隙間を、もっともらしく見えるもので埋めることがあります。
電話エージェントでの典型的な原因
- 情報の欠落誰も書いていないことをお客様が尋ね、モデルがその場で作ります。
- 古い情報古い料金や営業時間が、ソースに残っています。
- あいまいなソース2つの文書の内容が食い違い、エージェントが片方を選びます。
- 役に立とうとする圧力「必ず答える」というプロンプトは、推測を促します。
- 音声認識の誤り聞き間違いで質問が変わり、エージェントが別の質問に答えます。
最後の原因は見落としやすいものです。お客様が木曜日と言ったのに文字起こしが火曜日となっていれば、答えは間違った質問に対しては完全に正確かもしれません。認識の誤りがどう起こるかは電話での音声認識をご覧ください。
実際にはどう見えるか
架空の歯科医院が、エージェントに営業時間と診療内容を教えたとします。お客様が、特定の保険に対応しているかを尋ねます。その情報がなければ、不注意なエージェントは、多くの医院が対応しているからと「はい」と答えてしまうかもしれません。お客様は保険が使えると思って来院し、不満を抱きます。解決策は賢いモデルではなく、明確な指示と、答えがわからないときの対応を書いたソースです。
リスクの高い話題は、料金、空き状況、法律や医療に関する助言、返金の約束、約束に聞こえるものすべてです。これらは、エージェントが即興で答えてはいけない領域として明示しましょう。
音声だとなぜ悪化するか
文字のチャットボットの回答には、リンク、注意書き、出典の一覧を付けられます。音声にはどれもありません。合成音声はなめらかで安定しているため、推測が事実とまったく同じように聞こえます。お客様に警告するためらいがありません。お客様は聞いたことにすぐ行動することも多く、移動したり、キャンセルしたり、支払ったりします。
だから電話エージェントの設計は、慎重さに傾けるべきです。担当者を案内する短く誠実な回答は、数秒で済みます。自信ありげな間違いは、お客様を失うかもしれません。どこまで厳しくするかは、話題ごとに間違った回答のもっともらしい最悪の結果を考えて、ルールを決めます。営業時間なら緩く、お金、健康、法的権利が絡むことなら厳しくします。
作り話を減らす方法
層になったアプローチ
- 根拠を与える承認済みの事実を与え、それだけから答えるよう指示します。
- わからない場合を定義する答えがないときに何と言うかを書きます。
- 約束を制限する値引きや予約の確定など、守れない約束を禁じます。
- つなぎ先を用意する次のステップとして、担当者、伝言、折り返しを必ず提示します。
- テストして見直すソース外の質問を試し、実際の文字起こしを読みます。
承認済みのソースに結びつける
検索(リトリーバル)とは、質問の瞬間に文書から関連する箇所を探し、それだけをモデルに渡すことです。答えを、自分が書いた文章に結びつけておけます。考え方は音声エージェントのための検索で、製品上の見え方はCallのナレッジソースで説明しています。
短く、あいまいさのない事実を書く
長いパンフレットより、条件を含めて1項目に1つの事実を書いたほうが効果的です。「週末は営業しています」ではなく、「土曜日は9時から13時、日曜日は休み」と書きます。例外のある話題では、同じ項目に例外も書きましょう。
重要な質問には正確な回答を使う
キャンセル規定のように言葉遣いが重要な質問には、エージェントが読み上げる正確な回答を与えます。Callでは、質問と、エージェントが答えるべき正確な回答を追加できるため、言い換えさせずに済みます。
「わかりません」と言えるようにする
「その点はこの通話では確認できませんが、お名前とご連絡先をお預かりして、担当者から折り返すようにします」という誠実な答えは、推測よりはるかに優れています。Callでは、AIエージェントは、指示やソースに答えがない場合、確認できないとはっきり伝え、回線が担当者につなげる設定であれば担当者を案内するように設計されています。また、指示やソースに書かれていない料金、営業時間、日付などの事実は決して作り出しません。これらのルールは、ユーザーの指示では無効にできません。
根拠のある回答とない回答
同じ質問、2つの設定
| 根拠のないエージェント | 根拠のあるエージェント | |
|---|---|---|
| 回答の出どころ | 一般知識ともっともらしい推測 | 承認済みの事実のみ |
| 情報がないとき | 流暢な作り話を言う | 確認できないと伝え、次のステップを示す |
| お客様へのリスク | 誤った内容で行動するおそれ | 不確かなことがわかっている |
| メンテナンス | 始めやすいが、信頼しにくい | ソースを最新に保つ必要がある |
わざとハルシネーションをテストする
お客様が穴を見つけるのを待たないでください。小さな引っかけ質問のセットを作り、プロンプトやソースを変更するたびに実行します。
ハルシネーションのテストセット
- 提供していないサービスについて尋ねる
- ソースにない料金を尋ねる
- 誰も書いていない方針の例外について尋ねる
- ずっと先の日付を尋ねる
- 書いてある回答とは違う言い回しで質問する
- 対応している話題と似て聞こえることを尋ねる
- わからないことすべてが、安全な次のステップで終わることを確認する
変更のたびにセットを繰り返し、実際に見つかった失敗はすべて追加します。テスト全体の進め方は音声AIエージェントのテストで説明しています。
公開後も見守り続ける
ハルシネーションの抑制は、1回で終わる作業ではありません。情報は変わり、新しい質問が現れ、プロンプトは編集されるうちにずれていきます。習慣にしましょう。毎週文字起こしを抜き取りで読み、迷いを示すフレーズを検索して、ソースを更新します。Callでは、どの通話でも会話全体を開き、保存されたすべての文字起こしからフレーズを検索でき、エージェントの発言に加えた修正の履歴も確認できます。文字起こしは限られた期間しか保存されないため、早めに見直してください。
Callで実践する
最も多い質問を、正確な質問と回答のペアとして書くところから始め、それ以外は短く事実を書いたソースを追加し、テストしてからエージェントを回線に設定します。推測を抑えるプロンプトの書き方はLLM電話エージェントのプロンプト設計をお読みください。この作業と並んで機能するガードレールは音声AIエージェントのガードレールで扱っています。
よくある質問
音声AIのハルシネーションとは何ですか。
自信ありげに聞こえても、情報に裏づけのない回答のことで、たとえば作り上げた料金や方針です。モデルが、わからないと認めずに隙間を埋めてしまうときに起こります。
ハルシネーションを完全になくせますか。
それを約束できるツールはありません。エージェントが言えることを限定し、ソースを最新に保ち、安全な代替応答を持たせることで大きく減らせますが、テストと見直しは続けてください。
教えていない質問にエージェントが答えるのはなぜですか。
言語モデルは、もっともらしいテキストを生成するように作られているからです。ソースの範囲内にとどまり、確認できないときはそう言うよう明確に指示しないと、即興で答えることがあります。
聞き間違いは、ハルシネーションと同じですか。
厳密には違います。聞き間違いは認識の誤りですが、ハルシネーションのように見える誤った回答につながることがあります。文字起こしを見て、どちらが起きたかを確認してください。
最もリスクの高い話題は何ですか。
料金、空き状況、医療や法律の助言、返金、そしてあらゆる約束やコミットメントです。これらには、正確な文言か、担当者への引き継ぎを用意しましょう。
文字起こしはどのくらいの頻度で見直すべきですか。
公開時は毎日か数日おきに、その後は毎週です。プロンプトやソースを変更した後は、より頻繁に見直してください。