Tecnologia di IA vocale

Evitare le risposte inventate dell'IA vocale nelle telefonate

Perché gli agenti vocali a volte affermano cose non vere, e i passi pratici per limitarlo: fonti verificate, ripieghi sicuri, domande trappola e revisione.

La redazione di Call · Pubblicato · Lettura di 6 min

Chiedi a un agente vocale i tuoi orari di apertura e risponderà senza esitazioni. Il problema nasce quando risponde con la stessa disinvoltura su qualcosa che nessuno gli ha mai detto. È ciò che si intende per allucinazione: un output che suona giusto ma non ha alcuna base nelle tue informazioni.

Una persona ascolta con attenzione una telefonata alla sua scrivania
Immagine illustrativa

Su una linea telefonica il rischio è più acuto che in una chat. Chi chiama sente una frase sicura e nessun link, nessuna fonte e nessun modo semplice di tornare indietro. Questa guida spiega perché nascono le allucinazioni, come ridurle e come verificare che le correzioni funzionino.

Cos'è un'allucinazione e perché si verifica

Un modello linguistico produce la continuazione più plausibile di una conversazione. È stato addestrato su enormi quantità di testo e non ha un senso innato di quali affermazioni siano vere per la tua attività. Quando la risposta manca dalle istruzioni o dalle fonti, il modello può colmare il vuoto con qualcosa che sembra ragionevole.

Cause tipiche in un agente telefonico

  • Informazioni mancantiChi chiama chiede qualcosa che nessuno ha messo per iscritto, quindi il modello improvvisa.
  • Informazioni superateIn una fonte resta un prezzo o un orario vecchio.
  • Fonti ambigueDue documenti non concordano e l'agente ne sceglie uno.
  • Pressione a essere d'aiutoUn'istruzione che dice "rispondi sempre" incoraggia a tirare a indovinare.
  • Errori di riconoscimento vocaleUna parola fraintesa cambia la domanda, e l'agente risponde a un'altra domanda.

L'ultima causa è facile da trascurare. Se la trascrizione dice martedì quando chi chiamava ha detto giovedì, la risposta può essere perfettamente esatta per la domanda sbagliata. Vedi il riconoscimento vocale nelle telefonate per capire come nascono gli errori di riconoscimento.

Come si presenta nella pratica

Un ipotetico studio dentistico potrebbe informare il proprio agente su orari di apertura e servizi offerti. Una persona chiede se lo studio accetta una determinata assicurazione. In assenza di informazioni, un agente configurato con leggerezza potrebbe rispondere di sì, perché molti studi lo fanno. La persona si presenta aspettandosi la copertura e resta delusa. La soluzione non è un modello più intelligente, ma un'istruzione chiara e una fonte che dica cosa fare quando la risposta non è nota.

Gli argomenti più a rischio sono prezzi, disponibilità, consulenze legali o mediche, promesse di rimborso e tutto ciò che suona come un impegno. Segnalali come ambiti in cui l'agente non deve improvvisare.

Perché la voce peggiora le cose

La risposta scritta di un chatbot può contenere un link, un'avvertenza o un elenco visibile di fonti. Il parlato non ha nulla di tutto ciò. Le voci sintetiche sono inoltre fluide e costanti, quindi una supposizione suona esattamente come un fatto; non c'è nessuna esitazione che metta in guardia chi chiama. Spesso chi chiama agisce subito in base a ciò che sente: si mette in macchina, disdice qualcosa o paga qualcosa.

Per questo l'orientamento di progetto degli agenti telefonici dovrebbe pendere verso la prudenza. Una risposta breve e onesta che rimanda a una persona costa pochi secondi. Una risposta sbagliata detta con sicurezza può costare un cliente. Quando decidi quanto essere rigoroso, pensa alla peggiore conseguenza plausibile di una risposta sbagliata su ciascun argomento e fissa la regola di conseguenza: flessibile per gli orari di apertura, rigorosa per tutto ciò che riguarda denaro, salute o diritti.

Come ridurre le risposte inventate

Un approccio a più livelli

  1. Ancora l'agente ai fattiForniscigli fatti approvati e digli di rispondere solo in base a quelli.
  2. Definisci l'ignotoScrivi cosa deve dire quando non ha una risposta.
  3. Limita gli impegniVieta promesse che non può mantenere, come sconti o prenotazioni confermate.
  4. Offri una stradaPrevedi sempre come passo successivo una persona, un messaggio o una richiamata.
  5. Testa e rivediProva domande che esulano dalle fonti e leggi le trascrizioni reali.

Ancoralo a fonti approvate

Il recupero (retrieval) consiste nel cercare, nel momento della domanda, i passaggi pertinenti nei tuoi documenti e fornire al modello solo quelli. Mantiene le risposte legate a testi scritti da te. Il RAG per gli agenti vocali spiega l'idea, e Le fonti di conoscenza in Call mostra come compare nel prodotto.

Scrivi fatti brevi e univoci

Un fatto per voce, con la condizione inclusa, funziona meglio di una lunga brochure. Invece di "Siamo aperti nel fine settimana", scrivi "Sabato 9-13, domenica chiuso". Se un argomento ha eccezioni, indicale nella stessa voce.

Usa risposte esatte per le domande chiave

Per le domande in cui la formulazione conta, come le regole di disdetta, dai all'agente la risposta esatta da leggere. In Call puoi aggiungere una domanda e la risposta esatta che l'agente deve dare, così non deve parafrasare.

Insegnagli a dire "non lo so"

Un onesto "Non posso confermarlo in questa chiamata, ma posso prendere i suoi dati e farla ricontattare" è molto meglio di una supposizione. In Call, l'agente è progettato per dire chiaramente che non può confermare qualcosa quando niente nelle sue istruzioni o fonti risponde alla domanda, e per offrire una persona dove la linea può trasferire le chiamate. Inoltre non inventa mai prezzi, orari, date o altri fatti che le tue istruzioni e fonti non riportano, e le tue istruzioni non possono disattivare queste regole.

Risposte ancorate e non ancorate

Stessa domanda, due configurazioni

Agente non ancoratoAgente ancorato
Origine della rispostaConoscenze generali e supposizioni plausibiliSolo i tuoi fatti approvati
Quando mancano informazioniInventa qualcosa di scorrevoleDice che non può confermare e propone un passo successivo
Rischio per chi chiamaPuò agire su dati sbagliatiSa cosa è incerto
ManutenzioneFacile da avviare, difficile da rendere affidabileRichiede fonti sempre aggiornate

Cerca deliberatamente le allucinazioni

Non aspettare che sia un cliente a trovare le lacune. Prepara una piccola serie di domande trappola ed eseguila ogni volta che cambi istruzioni o fonti.

Una serie di test per le allucinazioni

  • Chiedi di un servizio che non offri
  • Chiedi un prezzo che non è nelle fonti
  • Chiedi di un'eccezione a una regola che nessuno ha messo per iscritto
  • Chiedi una data molto lontana nel futuro
  • Fai una domanda formulata in modo diverso dalle tue risposte scritte
  • Chiedi qualcosa che somiglia a un argomento coperto
  • Verifica che ogni domanda senza risposta si chiuda con un passo successivo sicuro

Ripeti la serie dopo ogni modifica e aggiungi ogni errore reale che trovi. Il processo di test più ampio è descritto in Testare un agente vocale IA.

Continua a vigilare dopo il lancio

Il controllo delle allucinazioni non è un compito una tantum. Le informazioni cambiano, compaiono nuove domande e le istruzioni si modificano man mano che le persone le ritoccano. Stabilisci una routine: leggi ogni settimana un campione di trascrizioni, cerca le frasi che segnalano dubbi e aggiorna le fonti. In Call puoi aprire la conversazione completa di qualsiasi chiamata, cercare una frase in tutte le trascrizioni salvate e vedere lo storico delle correzioni apportate alle parole dell'agente. Ricorda che le trascrizioni vengono conservate per un periodo limitato, quindi rivedile tempestivamente.

Applicarlo in Call

Inizia scrivendo le domande più frequenti come coppie esatte di domanda e risposta, aggiungi fonti brevi e concrete per tutto il resto e collega l'agente a una linea solo dopo averlo testato. Se vuoi aiuto per scrivere istruzioni che scoraggino le supposizioni, leggi Prompt per agenti IA telefonici. I limiti di sicurezza che affiancano questo lavoro sono trattati in Limiti di sicurezza per gli agenti vocali IA.

Domande frequenti

Cos'è un'allucinazione dell'IA vocale?

È una risposta che suona sicura ma non trova riscontro nelle tue informazioni, per esempio un prezzo o una regola inventati. Succede quando il modello colma un vuoto invece di ammettere che non sa.

Le allucinazioni si possono eliminare del tutto?

Nessuno strumento può prometterlo. Puoi ridurle molto limitando ciò che l'agente può dire, mantenendo aggiornate le fonti e dandogli un ripiego sicuro, ma devi continuare a testare e rivedere.

Perché l'agente risponde a una domanda su cui non l'ho mai istruito?

I modelli linguistici sono costruiti per produrre testo plausibile. Senza un'istruzione chiara di restare entro le tue fonti e dire quando non può confermare qualcosa, può improvvisare.

Una parola fraintesa è la stessa cosa di un'allucinazione?

Non esattamente. Una parola fraintesa è un errore di riconoscimento, ma può portare a una risposta sbagliata che sembra un'allucinazione. Controlla la trascrizione per capire quale delle due è successa.

Quali sono gli argomenti più rischiosi?

Prezzi, disponibilità, consulenze mediche o legali, rimborsi e qualsiasi promessa o impegno. Per questi, dai all'agente una formulazione esatta o un passaggio a una persona.

Ogni quanto devo rivedere le trascrizioni?

Ogni giorno o a pochi giorni di distanza all'avvio, poi ogni settimana. Rivedile più spesso dopo aver cambiato istruzioni o fonti.

Ancora in Call il tuo agente IA a risposte approvate

Nella console demo puoi provare le chiamate in arrivo in simulazione.

Guide correlate