EU AI法と音声エージェント:透明性義務の基本
EU AI法の透明性義務が、電話を受ける・かける音声エージェントにどう関わるか。AIと話していることを伝えるためのチェックリスト付きで解説します。
音声エージェントの性能は、電話の相手が人ではなかったことに気づかないまま会話を終えられるほどに向上しました。欧州の立法者もこれに注目しています。EU人工知能法(規則(EU)2024/1689)には、人と対話するシステムを明確に対象とした透明性のルールがあり、電話エージェントはその典型例です。

このガイドでは、透明性義務の内容、義務を負う人、着信と発信それぞれへの影響、通話フローへの組み込み方をわかりやすく説明します。運用チームと製品チーム向けの概要であり、法的見解ではありません。AIであることを発信者に伝えることの全体像は通話でのAI開示をご覧ください。
1分でわかるAI法
AI法は、AIシステムをそのリスクに応じて分類し、区分ごとに義務を定めています。ごく一部の行為は禁止されています。定められた高リスクの用途には重い義務が課されます。人と直接対話するシステムや、合成音声・画像・動画を生成するシステムには、より軽い透明性の義務が課されます。一般的な業務用途の多くは、高リスクの一覧には含まれません。
カスタマーサービスの音声エージェントは、通常は高リスクではなく透明性の区分に入ります。だからといって規制がないわけではなく、データ保護のルールや消費者法など、ほかの法律は引き続き適用されます。ただし、この種のシステムに対するAI法自体の要件は、主に誠実さに関するものです。
音声エージェントの位置づけ
- 禁止される行為人を操作したり弱みにつけ込んだりする用途は全面的に禁止されています。通常の受付やサポートのエージェントはこうした用途向けではありませんが、プロンプトやスクリプトがその方向に流れないよう注意が必要です。
- 高リスクのシステム雇用、与信、生活に不可欠なサービスに関する一定の判断など、定められた用途の一覧です。自社の通話フローがそうした判断を行ったり、大きく左右したりしていないか確認してください。
- 透明性の義務ほとんどの電話エージェントが該当する区分です。AIシステムとやり取りしていることを相手に伝え、合成音声には表示を付ける必要があります。
- それ以外データ保護、録音のルール、消費者保護など、ほかの法律は引き続き適用されます。
透明性義務の内容
平たく言えば、AI法の透明性に関する条文は、いくつかの例外を除き、次のことを求めています。
- AIと話していることを伝える。人と直接対話するAIシステムの提供者は、相手がそのことを知らされるようにシステムを設計する必要があります。ただし、状況から見て、合理的に情報を得ている人にとって明らかな場合は除きます。
- 合成音声に表示を付ける。合成音声・画像・動画・テキストを生成するシステムの提供者は、技術的に可能な範囲で、出力に機械可読な表示を付け、人工的に生成されたものとして検出できるようにする必要があります。
- ディープフェイクを開示する。実在の人物、場所、出来事に似たコンテンツを作成・改変するシステムを利用する人は、それが人工的なものであることを開示する必要があります。
- 感情認識について知らせる。感情認識や生体情報による分類のシステムを利用する人は、その対象となる人に知らせる必要があります。
当初のスケジュールでは、透明性の義務は2026年8月から適用される予定です。AI法の一部のスケジュールについてはEUレベルで議論が続いているため、この記事を読む時点で適用される日付を確認してください。
「明らか」と言える場合はあるか
AI法は、AIとやり取りしていることが合理的に情報を得ている人にとって明らかな場合の例外を認めています。電話では、この例外に頼らないでください。自然な声、人間らしい名前、親しみやすい口調があれば、明らかとはとても言えません。迷ったら開示しましょう。
提供者と利用者:誰がどの義務を負うか
AI法は、AIシステムを開発する、または開発させて自社の名前で市場に出す提供者と、自らの権限のもとでシステムを使う利用者(ディプロイヤー)を区別しています。プラットフォームで音声エージェントを設定し、自社の電話回線に置く事業者は通常は利用者で、プラットフォームのベンダーは提供者に近い立場です。多くの義務は提供者にありますが、利用者も、システムを想定どおりに使い、必要な場面で人に情報を伝え、保護措置を外さないようにする必要があります。
提供者と利用者の比較
| 提供者(システムを開発・販売する) | 利用者(システムを使う) | |
|---|---|---|
| 典型的な例 | 音声エージェントのプラットフォームのベンダー | 自社の回線で音声エージェントを運用するクリニック、小売店、サービスデスク |
| 相手への開示 | AIとやり取りしていることを伝えられるようにシステムを作る | 回線で実際に、適切な場所で適切な言葉を使って発信者に伝える |
| 合成音声の表示 | 技術的に可能な範囲で表示を組み込む | 表示を削除したり無効にしたりしない |
| 日々の管理 | 文書化と設計 | スクリプト、エスカレーション、モニタリング、記録の保管 |
自社の立場がわからない場合は、少なくとも利用者としての義務があると考え、プラットフォームが何を担ってくれるのかをベンダーに確認しましょう。
着信と発信
着信のほうが単純です。発信者は自分から電話をかけてきているので、エージェントが応対を始める前に短い案内を流せます。発信は、相手が会話を選んだわけではないため、より慎重な対応が必要です。最初の1〜2文で、誰がなぜ電話しているかとともに、AIであることを伝えましょう。
AIが対応する通話のわかりやすい冒頭
- 事業者名を名乗る「お電話ありがとうございます。ハーバー理学療法クリニックの予約窓口です。」
- AIであることを伝える「私は自動音声アシスタントで、人ではありません。」
- できることを伝える「ご伝言や、ご予約のご希望をお受けできます。」
- 人につなげることを伝える「担当者とお話しになりたい場合は、そうおっしゃってください。」
- 必要に応じて録音を伝える「品質向上のため、この通話は録音される場合があります。」
これらは架空の例です。自社に合わせて調整してください。発信キャンペーンでは、自動発信と同意に関する別のルールも守る必要があります。概要は自動音声発信の規制:国別の概要にまとめています。
合成音声とクローン音声
テキスト読み上げの声は合成音声であり、クローン音声は実在の人物をまねる点でさらに踏み込んだものです。表示の義務は主に提供者にありますが、利用者もプラットフォームが何をしているかを理解しておくべきです。また、実在の人物のクローン音声を、その人の明確な許可なしに使ってはいけません。エージェントが特定の社員の声で話す場合は、その社員本人ではなくAIの声であることを発信者に伝えましょう。
- 発信者が誤解するおそれがある場合、AIエージェントに人間の役職名や、人を思わせる個人名を付けないでください。
- 発信者が本気で「人と話しているのか」と尋ねたら、毎回正直に答えます。
- 各回線でどの声と文言を使っているかを書面で記録します。
声についてはビジネスでの音声クローン:同意と限界もご覧ください。
開示だけでなく、設計に組み込むべきこと
透明性は最低限の条件であり、上限ではありません。よく運用された音声エージェントには、次のものも必要です。
開示を支える実務的な保護措置
- 人につながる手段人と話したいと求めた発信者は、押し問答なしに担当者につながるか、折り返しや伝言を提案されるべきです。
- 話す内容の制限エージェントが答えを作り上げたり、担当範囲外の助言をしたりしないためのガードレール。
- データへの配慮通話に必要な情報だけを集め、録音や文字起こしの使い方を発信者に伝えます。
- 人による監督誰かが文字起こしを確認し、エスカレーションに対応し、エージェントを停止できるようにします。
設計面については音声AIエージェントのガードレール:安全で本題に沿った通話と音声AIのプライバシー設計:データ・告知・保存期間をご覧ください。
実務的な準備チェックリスト
AI音声エージェントが実際の通話を受ける前に
- このシステムについて、自社が提供者か、利用者か、その両方かを判断する
- 開示を平易な言葉で書き、すべての種類の通話の最初に置く
- 発信者が人、折り返し、伝言のいずれかにたどり着けるようにする
- 合成音声にどのように表示が付くかをベンダーに確認する
- データ保護と録音の告知も用意されていることを確認する
- 使用した文言と変更した日付を記録する
- 毎週、実際の通話のサンプルを確認し、AIであることが伝わっていなかった通話を修正する
- 開始前に、スケジュールの変更がないか公式の情報源を再確認する
Callでの対応
Callでは、運営者が「管理」の「テレフォニーとAI」で必須の開示を登録できます。ラベル、開示したとみなす言葉、そして何秒以内に言わなければならないかを指定します。カウントされるのはエージェント自身の発話だけで、発信者がそれについて尋ねた発言は含まれません。電話回線では、録音とモニタリングの告知を発信者に聞かせるかどうかも選べ、AIの通話ではその告知が挨拶の前に流れます。発信者は人と話すことを求められ、AIエージェントは通話を引き継げます。詳しくは「AIエージェントから人への通話の引き継ぎ:ガイド」をご覧ください。これらの設定が特定の法的義務を満たすかどうかは、自社と専門家が判断してください。
よくある質問
EU域外の事業者にもEU AI法は適用されますか?
適用される場合があります。システムの出力がEU域内で使われる場合、たとえばEU域内にいる発信者が利用する場合、AI法はEU域外の提供者や利用者にも及びます。EUの発信者がいる場合は専門家に相談してください。
音声エージェントは必ずAIであると言わなければなりませんか?
透明性のルールは、合理的に情報を得ている人にとって明らかな場合を除き、AIシステムとやり取りしていることを伝えるよう求めています。電話では明らかなことはまれなので、すべての通話の冒頭近くで伝える習慣にしておくのが安全です。
透明性のルールはいつから適用されますか?
当初のスケジュールでは2026年8月から適用される予定ですが、AI法の一部のスケジュールについては議論が続いています。この記事を読む時点で有効な日付を、欧州委員会のページで確認してください。
テキスト読み上げの挨拶はAIシステムですか?
対話しない固定の録音や合成の挨拶は、会話を行うエージェントとは異なります。ただし合成音声の表示義務が関係する可能性はあるため、ベンダーにどう扱っているかを確認してください。
AIであることを開示すると、発信者は電話を切ってしまいますか?
切る人もいるかもしれませんが、正直な開示は信頼につながり、残った発信者は用件をより明確に伝える傾向があります。親しみやすい冒頭と、人につながる簡単な手段があれば、離脱を減らせます。
音声エージェントに関係する法律はAI法だけですか?
いいえ。データ保護、通話録音、マーケティングと同意のルール、業界ごとのルールも引き続き適用されます。AI法はこれらに置き換わるのではなく、上乗せされるものです。