Technologie d'IA vocale

Éviter les réponses inventées de l'IA vocale au téléphone

Pourquoi les agents vocaux affirment parfois des choses fausses, et comment limiter le risque : sources fiables, replis sûrs, questions pièges et analyse.

L’équipe éditoriale de Call · Publié le · Lecture : 6 min

Demandez vos horaires à un agent vocal et il répondra sans accroc. Le problème survient quand il répond avec la même aisance sur un sujet dont on ne lui a jamais parlé. C'est ce qu'on appelle une hallucination : une réponse qui sonne juste mais ne repose sur aucune de vos informations.

Une personne écoutant attentivement un appel téléphonique à son bureau
Image d'illustration

Au téléphone, le risque est plus aigu que dans une fenêtre de chat. L'appelant entend une phrase assurée, sans lien, sans source et sans moyen simple de revenir en arrière. Ce guide explique pourquoi les hallucinations se produisent, comment les réduire et comment vérifier l'efficacité de vos corrections.

Ce qu'est une hallucination, et pourquoi elle se produit

Un modèle de langage produit la suite la plus plausible d'une conversation. Il a été entraîné sur d'immenses volumes de texte et ne sait pas, par lui-même, quelles affirmations sont vraies pour votre entreprise. Quand la réponse manque dans le prompt ou les sources, le modèle peut combler le vide avec quelque chose qui paraît raisonnable.

Les causes typiques chez un agent téléphonique

  • Information manquanteL'appelant demande une chose que personne n'a écrite, et le modèle improvise.
  • Information obsolèteUn ancien prix ou un ancien horaire subsiste dans une source.
  • Sources ambiguësDeux documents se contredisent et l'agent en choisit un.
  • Pression à être serviableUn prompt qui dit « réponds toujours » encourage à deviner.
  • Erreurs de reconnaissance vocaleUn mot mal entendu change la question, et l'agent répond à une autre.

La dernière cause est facile à négliger. Si la transcription indique mardi alors que l'appelant a dit jeudi, la réponse peut être parfaitement exacte… pour la mauvaise question. Voir La reconnaissance vocale lors des appels téléphoniques pour comprendre l'origine des erreurs de reconnaissance.

À quoi cela ressemble en pratique

Un cabinet dentaire fictif renseigne son agent sur ses horaires et ses soins. Un appelant demande si le cabinet accepte une mutuelle particulière. Faute d'information sur ce point, un agent mal encadré pourrait répondre oui, parce que beaucoup de cabinets le font. L'appelant se présente en comptant sur une prise en charge et repart mécontent. La solution n'est pas un modèle plus intelligent, mais une instruction claire et une source qui indique quoi faire quand la réponse est inconnue.

Les sujets à haut risque courants sont les prix, les disponibilités, les conseils juridiques ou médicaux, les promesses de remboursement et tout ce qui ressemble à un engagement. Désignez-les comme des domaines où l'agent ne doit pas improviser.

Pourquoi la voix aggrave le problème

Une réponse de chatbot écrite peut comporter un lien, un avertissement ou une liste de sources visible. La parole n'offre rien de tout cela. Les voix de synthèse sont en outre fluides et régulières : une supposition sonne exactement comme un fait, sans hésitation pour alerter l'appelant. Or les appelants agissent souvent immédiatement sur ce qu'ils entendent, en se déplaçant, en annulant quelque chose ou en payant.

C'est pourquoi la conception des agents téléphoniques doit pencher vers la retenue. Une réponse courte et honnête qui oriente vers une personne coûte quelques secondes. Une réponse fausse et assurée peut coûter un client. Pour décider du degré de rigueur, pensez à la pire conséquence plausible d'une mauvaise réponse sur chaque sujet et fixez la règle en conséquence : souple pour les horaires, stricte pour tout ce qui touche à l'argent, à la santé ou aux droits.

Comment réduire les réponses inventées

Une approche en couches

  1. Ancrer l'agentLui fournir des informations validées et lui demander de ne répondre qu'à partir d'elles.
  2. Définir l'inconnuÉcrire ce qu'il doit dire lorsqu'il n'a pas de réponse.
  3. Restreindre les engagementsInterdire les promesses qu'il ne peut pas tenir, comme des remises ou des réservations confirmées.
  4. Proposer une suiteToujours prévoir une personne, un message ou un rappel comme étape suivante.
  5. Tester et analyserEssayer des questions hors des sources et lire des transcriptions réelles.

Ancrez-le dans des sources validées

La recherche documentaire (retrieval) consiste à extraire de vos documents, au moment de la question, les passages pertinents et à ne fournir que ceux-là au modèle. Les réponses restent ainsi liées à des textes que vous avez rédigés. La recherche documentaire pour les agents vocaux explique le principe, et Les sources de connaissances dans Call montre comment il se présente dans le produit.

Rédigez des informations courtes et sans ambiguïté

Une information par entrée, condition comprise, fonctionne mieux qu'une longue brochure. Au lieu de « Nous sommes ouverts le week-end », écrivez « Samedi de 9 h à 13 h, fermé le dimanche ». Si un sujet comporte des exceptions, indiquez-les dans la même entrée.

Utilisez des réponses exactes pour les questions clés

Pour les questions où la formulation compte, comme les conditions d'annulation, donnez à l'agent la réponse exacte à lire. Dans Call, vous pouvez ajouter une question et la réponse exacte que l'agent doit donner, pour qu'il n'ait pas à paraphraser.

Apprenez-lui à dire « je ne sais pas »

Un honnête « Je ne peux pas vous le confirmer pendant cet appel, mais je peux noter vos coordonnées pour que quelqu'un vous recontacte » vaut bien mieux qu'une supposition. Dans Call, l'agent est conçu pour dire clairement qu'il ne peut pas confirmer une information quand rien dans ses instructions ou ses sources ne répond à la question, et pour proposer une personne lorsque la ligne permet de transférer les appelants. Il n'invente jamais non plus de prix, d'horaires, de dates ou d'autres informations que vos instructions et sources n'indiquent pas, et vos instructions ne peuvent pas désactiver ces règles.

Réponses ancrées ou non ancrées

Même question, deux configurations

Agent non ancréAgent ancré
Source de la réponseConnaissances générales et suppositions plausiblesUniquement vos informations validées
Quand l'information manqueInvente quelque chose de fluideIndique qu'il ne peut pas confirmer et propose une étape suivante
Risque pour l'appelantPeut agir sur de mauvaises informationsSait ce qui est incertain
MaintenanceFacile à lancer, difficile à fiabiliserSources à tenir à jour

Testez délibérément les hallucinations

N'attendez pas qu'un client découvre les failles. Constituez un petit jeu de questions pièges et rejouez-le à chaque modification du prompt ou des sources.

Un jeu de test anti-hallucinations

  • Demander un service que vous ne proposez pas
  • Demander un prix absent des sources
  • Demander une exception à une règle que personne n'a écrite
  • Demander une date très éloignée dans le futur
  • Poser une question formulée autrement que vos réponses écrites
  • Demander quelque chose qui ressemble à un sujet couvert
  • Vérifier que chaque inconnue se termine par une étape suivante sûre

Rejouez le jeu après chaque modification, et ajoutez-y chaque échec réel que vous découvrez. Le processus de test plus large est décrit dans Tester un agent d'IA vocale.

Restez vigilant après le lancement

La maîtrise des hallucinations n'est pas une tâche ponctuelle. Les informations changent, de nouvelles questions apparaissent et les prompts dérivent au fil des modifications. Instaurez une routine : lisez chaque semaine un échantillon de transcriptions, recherchez les expressions qui trahissent un doute et mettez à jour les sources. Dans Call, vous pouvez ouvrir la conversation complète de n'importe quel appel, rechercher une expression dans toutes les transcriptions conservées et consulter l'historique des corrections apportées aux formulations de l'agent. Les transcriptions sont conservées pendant une durée limitée ; analysez-les sans tarder.

Mettre cela en pratique dans Call

Commencez par rédiger vos questions les plus fréquentes sous forme de paires questions-réponses exactes, ajoutez de courtes sources factuelles pour tout le reste, et ne rattachez l'agent à une ligne qu'après l'avoir testé. Pour vous aider à rédiger des prompts qui découragent les suppositions, lisez Rédiger le prompt d'un agent téléphonique LLM. Les garde-fous qui accompagnent ce travail sont traités dans Les garde-fous des agents d'IA vocale.

Questions fréquentes

Qu'est-ce qu'une hallucination d'IA vocale ?

C'est une réponse qui paraît assurée mais ne s'appuie pas sur vos informations, par exemple un prix ou une règle inventés. Elle se produit quand le modèle comble un vide au lieu d'admettre qu'il ne sait pas.

Peut-on éliminer complètement les hallucinations ?

Aucun outil ne peut le promettre. Vous pouvez les réduire fortement en limitant ce que l'agent peut dire, en tenant les sources à jour et en lui donnant une solution de repli sûre, mais il faut continuer à tester et à analyser.

Pourquoi l'agent répond-il à une question sur laquelle je ne l'ai jamais renseigné ?

Les modèles de langage sont conçus pour produire un texte plausible. Sans instruction claire de rester dans vos sources et de dire quand il ne peut pas confirmer une information, il risque d'improviser.

Un mot mal entendu est-il une hallucination ?

Pas exactement. Un mot mal entendu est une erreur de reconnaissance, mais il peut entraîner une mauvaise réponse qui ressemble à une hallucination. Consultez la transcription pour savoir ce qui s'est produit.

Quels sont les sujets les plus risqués ?

Les prix, les disponibilités, les conseils médicaux ou juridiques, les remboursements et toute promesse ou tout engagement. Donnez à l'agent une formulation exacte ou une transmission pour ces sujets.

À quelle fréquence analyser les transcriptions ?

Chaque jour ou tous les deux ou trois jours au lancement, puis chaque semaine. Analysez-les plus souvent après une modification du prompt ou des sources.

Ancrez votre agent IA dans des réponses validées dans Call

Dans la console de démo, vous pouvez essayer des appels entrants en simulation.

Guides associés