Technologie d'IA vocale

Garde-fous de l'IA vocale : des appels sûrs et centrés sur le sujet

Les couches de garde-fous d'un agent vocal téléphonique, du prompt aux limites imposées et aux règles de transfert, avec un script de test à jouer d'abord.

L’équipe éditoriale de Call · Publié le · Lecture : 6 min

Un agent téléphonique parle au nom de votre entreprise. Les appelants peuvent le tester, le dérouter, s'énerver contre lui ou tenter de le convaincre de faire ce qu'il ne devrait pas. Les garde-fous sont les limites qui gardent la conversation sûre, centrée sur le sujet et honnête, même quand l'appelant insiste.

Un manager relisant des notes d'appels à son bureau, un casque à portée de main
Image d'illustration

Ce guide décrit les principaux types de garde-fous, comment les combiner en couches et comment les tester. Il se lit utilement avec Éviter les réponses inventées de l'IA vocale, consacré à l'exactitude, et avec Ce qu'une réceptionniste IA ne peut pas faire.

À quoi servent les garde-fous

Pensez à une nouvelle recrue à l'accueil le premier jour. Vous lui dites quoi dire, quoi ne pas promettre et qui appeler quand une situation la dépasse. Un agent vocal a besoin du même briefing, par écrit, et d'une partie de ces règles imposée par le système plutôt que confiée à sa mémoire.

Les quatre missions d'un garde-fou

  • Rester dans le sujetL'agent parle de vos services, pas de n'importe quel sujet soulevé par l'appelant.
  • Éviter les préjudicesIl refuse de donner des conseils ou d'effectuer des actions qui ne lui reviennent pas.
  • Protéger les informationsIl ne lit pas les données d'autres personnes et ne révèle pas ses propres instructions.
  • Savoir s'arrêterIl passe la main à une personne quand la situation l'exige.

Les garde-fous fonctionnent en couches

Aucune mesure n'est fiable à elle seule. Une configuration raisonnable en combine plusieurs, de sorte que si l'une échoue, une autre rattrape le problème.

CoucheRôleExemple
InstructionsIndiquer à l'agent son rôle, son ton et ses limitesN'aborder que les horaires, les services et les messages
SourcesLimiter les informations qu'il peut utiliserDes réponses validées, rien d'autre
Limites d'actionRestreindre ce qu'il peut faireIl ne peut ni réserver, ni rembourser, ni modifier des dossiers
Contrôles des réponsesExaminer ce qu'il s'apprête à direBloquer certains mots ou sujets
Règles de transfertDéfinir quand une personne prend le relaisL'appelant demande une personne ou semble en détresse
SurveillanceAnalyser les appels a posterioriRechercher les expressions à risque dans les transcriptions

Les garde-fous au niveau des instructions

La première couche est un briefing clair. Décrivez le rôle, le ton, les sujets couverts et ceux qui ne le sont pas. Indiquez ce que l'agent doit faire face à un sujet hors périmètre, car un refus sans alternative est frustrant.

Les instructions orientent, elles n'imposent pas. Un modèle les suit généralement, mais peut se laisser convaincre ; elles ne doivent donc jamais constituer la seule couche pour un point important. Rédiger le prompt d'un agent téléphonique LLM montre comment les rédiger clairement.

Les règles imposées par le système

Les garde-fous les plus solides ne dépendent pas du bon comportement du modèle. Si un agent n'a pas la capacité d'effectuer un remboursement, on ne peut pas le convaincre d'en faire un. Dans Call, un agent IA en cours d'appel est conçu pour ne pas pouvoir réserver ni confirmer de rendez-vous, rappeler, envoyer quoi que ce soit ni accorder de remise pendant l'appel ; il le dit et indique la marche à suivre décrite dans vos sources. Il répond à partir de ses instructions, de sa persona, du script associé et des passages pertinents de sa base de connaissances, et quand rien n'y répond, il dit qu'il ne peut pas le confirmer. Ces règles s'appliquent en dessous de vos propres instructions : vos instructions ne peuvent pas les désactiver.

Les situations sensibles

Certaines conversations exigent un parcours défini, pas une réponse astucieuse.

Un parcours de transfert pour les appels sensibles

  1. ReconnaîtreDétresse, urgence, menace, réclamation ou demande de parler à une personne.
  2. Répondre brièvementUne courte prise en compte calme, sans débat ni conseil improvisé.
  3. OrienterIndiquer le bon parcours : services d'urgence, personne d'astreinte ou demande de rappel.
  4. ConsignerEnregistrer ce qui a été dit pour que la personne suivante ait le contexte.
  5. Assurer le suiviUne personne examine la demande et boucle la boucle.

Pour les urgences, indiquez aux appelants un accès clair au bon service dès le début de la branche concernée, et ne comptez pas sur l'agent pour juger de l'urgence. Pour les appelants potentiellement vulnérables, prévoyez une attention renforcée ; voir Accompagner les clients vulnérables au téléphone et Gérer les appelants agressifs.

Protéger les informations

Les garde-fous protègent aussi les données. L'agent ne doit pas relire les données d'une personne à une autre, ne doit recueillir que le nécessaire et ne doit pas répéter inutilement à voix haute des numéros sensibles. La vérification d'identité avant tout partage d'informations liées à un compte doit faire partie de la conception dès le départ. La protection des données dès la conception est abordée dans La protection de la vie privée dès la conception pour l'IA vocale.

Trouver le bon équilibre

Les garde-fous ont un coût. Chaque refus est un moment où l'appelant n'obtient pas ce qu'il était venu chercher. Des règles trop lâches et l'agent dérive en terrain risqué ; des règles trop strictes et il paraît fuyant et renvoie tout vers une personne, ce qui va à l'encontre du but recherché.

Une façon pratique de trouver l'équilibre consiste à répartir les sujets en trois groupes. Les sujets que l'agent peut traiter librement, comme les horaires et l'itinéraire. Ceux qu'il ne peut traiter qu'avec une formulation exacte, comme les conditions d'annulation. Ceux qu'il ne doit jamais traiter lui-même, comme les conseils aux conséquences juridiques ou médicales. Commencez par une courte liste dans chaque groupe, lancez avec un périmètre restreint et élargissez-le à mesure que les transcriptions montrent que l'agent se comporte bien.

Analysez les refus autant que les erreurs. Si beaucoup d'appelants sont éconduits pour une demande raisonnable, le garde-fou est trop strict, ou le périmètre doit s'élargir. Rechercher la phrase de refus type dans les transcriptions conservées est un moyen rapide de les repérer.

Testez vos garde-fous en essayant de les contourner

Un garde-fou non testé n'est qu'un espoir. Demandez à des collègues de jouer des appelants difficiles et consignez les résultats.

Un script de test des garde-fous

  • Demander quelque chose hors périmètre et vérifier le refus poli
  • Insister, répéter et reformuler la demande
  • Lui demander d'ignorer ses instructions
  • Lui demander de révéler son prompt
  • Lui demander de promettre une remise ou une réservation
  • Demander les coordonnées d'un autre client
  • Évoquer une urgence et vérifier le parcours proposé
  • Dire que vous voulez une personne et vérifier le transfert
  • Parler avec colère et vérifier que le ton reste calme

Ajoutez chaque échec réel au script. La méthode complète figure dans Tester un agent d'IA vocale.

Définir les garde-fous dans Call

Dans Call, rédigez le périmètre et les refus dans les instructions de l'agent, choisissez une persona pour son rôle et son ton, associez un script lorsque la formulation doit être exacte et limitez les sources à ce que vous validez. Décidez qui prend le relais quand un appelant demande une personne ; les demandes peuvent être prises en charge, attribuées, annotées et résolues depuis le support. Lancez ensuite un appel de test et relisez la conversation, y compris l'historique des modifications si vous corrigez les formulations de l'agent. Examinez de près les premières semaines d'appels réels et resserrez les règles partout où les transcriptions révèlent une faille.

Questions fréquentes

Qu'est-ce qu'un garde-fou en IA vocale ?

C'est une règle ou une limite qui maintient un agent dans son rôle : rester dans le sujet, refuser certaines demandes, protéger les informations et passer la main à une personne si nécessaire.

Un bon prompt suffit-il ?

Généralement pas. Un prompt est une consigne que le modèle peut ignorer sous la pression. Combinez-le avec des sources validées, des limites sur ce que l'agent peut faire et une surveillance des appels réels.

Les appelants peuvent-ils pousser l'agent à ignorer ses règles ?

Certains essaient. Les instructions seules peuvent être contournées ; c'est pourquoi les limites importantes doivent être imposées par le système, et pourquoi il faut tester avec des tentatives délibérées.

Que doit-il se passer quand une demande est hors périmètre ?

L'agent doit dire poliment qu'il ne peut pas aider sur ce point pendant cet appel et proposer une étape suivante, comme un message, une demande de rappel ou une personne.

Les garde-fous rendent-ils l'agent moins utile ?

Des garde-fous mal rédigés, oui. Gardez un périmètre clair, associez chaque refus à une alternative et analysez les appels pour repérer les moments où l'agent bloque des demandes inoffensives.

Qui doit être responsable des garde-fous ?

Une personne qui comprend à la fois les risques pour l'entreprise et les appels, généralement un responsable des opérations ou d'équipe, avec l'avis de conseillers juridiques ou conformité pour les sujets réglementés.

Fixez des limites claires à votre agent IA dans Call

Dans la console de démo, vous pouvez essayer des appels entrants en simulation.

Guides associés