Verzonnen antwoorden voorkomen bij voice-AI aan de telefoon
Waarom spraakagents soms dingen zeggen die niet kloppen, en praktische stappen die dat beperken: vaste bronnen, veilige terugvalopties, strikvragen en controle.
Vraag een spraakagent naar uw openingstijden en hij antwoordt vlot. Het probleem ontstaat als hij net zo vlot antwoordt over iets wat hem nooit is verteld. Dat bedoelen mensen met een hallucinatie: uitvoer die goed klinkt maar geen basis heeft in uw informatie.

Aan de telefoon is het risico groter dan in een chatvenster. De beller hoort één stellige zin, zonder link, zonder bron en zonder makkelijke manier om terug te gaan. Deze gids legt uit waarom hallucinaties ontstaan, hoe u ze vermindert en hoe u controleert of uw maatregelen werken.
Wat een hallucinatie is, en waarom die ontstaat
Een taalmodel produceert de meest aannemelijke voortzetting van een gesprek. Het is getraind op enorme hoeveelheden tekst en heeft geen ingebouwd besef van welke uitspraken voor uw bedrijf kloppen. Ontbreekt het antwoord in de prompt of de bronnen, dan kan het model het gat vullen met iets wat redelijk lijkt.
Typische oorzaken bij een telefoonagent
- Ontbrekende informatieDe beller vraagt iets wat niemand heeft opgeschreven, dus het model improviseert.
- Verouderde informatieEen oude prijs of openingstijd staat nog in een bron.
- Tegenstrijdige bronnenTwee documenten spreken elkaar tegen en de agent kiest er een.
- Druk om te helpenEen prompt die zegt antwoord altijd moedigt gokken aan.
- Fouten in spraakherkenningEen verkeerd verstaan woord verandert de vraag, zodat de agent een andere vraag beantwoordt.
De laatste oorzaak wordt makkelijk over het hoofd gezien. Staat er in de transcriptie dinsdag terwijl de beller donderdag zei, dan kan het antwoord volkomen juist zijn voor de verkeerde vraag. Zie Spraakherkenning bij telefoongesprekken voor hoe herkenningsfouten ontstaan.
Hoe het er in de praktijk uitziet
Een denkbeeldige tandartspraktijk vertelt haar agent misschien over de openingstijden en de behandelingen die ze aanbiedt. Een beller vraagt of de praktijk een bepaalde verzekering accepteert. Zonder informatie daarover zegt een onzorgvuldige agent misschien ja, omdat veel praktijken dat doen. De beller komt langs in de verwachting dat het wordt vergoed en is teleurgesteld. De oplossing is geen slimmer model, maar een duidelijke instructie en een bron die zegt wat te doen als het antwoord onbekend is.
Veelvoorkomende risicovolle onderwerpen zijn prijzen, beschikbaarheid, juridisch of medisch advies, beloften over terugbetaling en alles wat als een toezegging klinkt. Markeer deze als gebieden waar de agent niet mag improviseren.
Waarom spraak het erger maakt
Een geschreven chatbotantwoord kan een link bevatten, een disclaimer of een zichtbare lijst met bronnen. Spraak bevat niets daarvan. Synthetische stemmen zijn bovendien vloeiend en gelijkmatig, dus een gok klinkt precies als een feit; er is geen aarzeling die de beller waarschuwt. Bellers handelen vaak meteen op wat ze horen, door ergens heen te rijden, iets te annuleren of iets te betalen.
Daarom hoort het ontwerp van telefoonagents te neigen naar terughoudendheid. Een kort, eerlijk antwoord dat naar een mens verwijst, kost een paar seconden. Een stellig maar fout antwoord kan een klant kosten. Bedenk bij het bepalen hoe streng u bent wat het ergste aannemelijke gevolg van een fout antwoord per onderwerp is, en stel de regel daarop af: soepel voor openingstijden, streng voor alles wat met geld, gezondheid of wettelijke rechten te maken heeft.
Zo vermindert u verzonnen antwoorden
Een gelaagde aanpak
- Veranker de agentGeef hem goedgekeurde feiten en zeg dat hij alleen daaruit mag antwoorden.
- Bepaal het onbekendeSchrijf op wat hij moet zeggen als hij geen antwoord heeft.
- Beperk toezeggingenVerbied beloften die hij niet kan nakomen, zoals kortingen of bevestigde afspraken.
- Bied een routeGeef altijd een mens, een bericht of een terugbelactie als volgende stap.
- Test en controleerProbeer vragen buiten de bronnen en lees echte transcripties.
Veranker hem in goedgekeurde bronnen
Retrieval betekent dat op het moment van de vraag relevante passages uit uw documenten worden opgezocht en alleen die aan het model worden gegeven. Zo blijven antwoorden verbonden aan tekst die u zelf heeft geschreven. Retrieval voor spraakagents legt het idee uit, en Kennisbronnen in Call laat zien hoe het er in het product uitziet.
Schrijf korte, eenduidige feiten
Eén feit per item, met de voorwaarde erbij, werkt beter dan een lange brochure. Schrijf in plaats van We zijn in het weekend open: zaterdag van 9 tot 13 uur, zondag gesloten. Heeft een onderwerp uitzonderingen, noem die dan in hetzelfde item.
Gebruik exacte antwoorden voor kernvragen
Geef de agent voor vragen waarbij de formulering ertoe doet, zoals annuleringsregels, het exacte antwoord om voor te lezen. In Call kunt u een vraag toevoegen met het exacte antwoord dat de agent moet geven, zodat hij niet hoeft te parafraseren.
Leer hem zeggen dat hij het niet weet
Een eerlijk Dat kan ik in dit gesprek niet bevestigen, maar ik kan uw gegevens noteren zodat iemand contact met u opneemt is veel beter dan een gok. In Call is de agent zo ontworpen dat hij duidelijk zegt dat hij iets niet kan bevestigen als niets in zijn instructies of bronnen de vraag beantwoordt, en dat hij een mens aanbiedt waar de lijn bellers kan doorverbinden. Hij verzint ook nooit prijzen, openingstijden, datums of andere feiten die niet in uw instructies en bronnen staan, en uw instructies kunnen deze regels niet uitschakelen.
Gefundeerde versus ongefundeerde antwoorden
Dezelfde vraag, twee opzetten
| Ongefundeerde agent | Gefundeerde agent | |
|---|---|---|
| Bron van het antwoord | Algemene kennis en aannemelijke gissingen | Alleen uw goedgekeurde feiten |
| Als informatie ontbreekt | Verzint iets vloeiends | Zegt dat hij het niet kan bevestigen, biedt een volgende stap |
| Risico voor de beller | Handelt mogelijk op basis van verkeerde gegevens | Weet wat onzeker is |
| Onderhoud | Makkelijk om te beginnen, moeilijk te vertrouwen | Vereist dat bronnen actueel blijven |
Test bewust op hallucinaties
Wacht niet tot een klant de gaten vindt. Stel een kleine set strikvragen samen en voer die uit telkens wanneer u de prompt of bronnen wijzigt.
Een testset voor hallucinaties
- Vraag naar een dienst die u niet aanbiedt
- Vraag naar een prijs die niet in de bronnen staat
- Vraag naar een uitzondering op het beleid die niemand heeft opgeschreven
- Vraag naar een datum ver in de toekomst
- Stel een vraag in een andere formulering dan uw geschreven antwoorden
- Vraag iets wat lijkt op een behandeld onderwerp
- Controleer dat elke onbekende vraag eindigt met een veilige volgende stap
Herhaal de set na wijzigingen, en voeg elke echte fout die u vindt eraan toe. Het bredere testproces wordt beschreven in Een voice-AI-agent testen.
Blijf na de lancering opletten
Hallucinaties beheersen is geen eenmalige taak. Informatie verandert, nieuwe vragen duiken op en prompts verschuiven doordat mensen ze bewerken. Leg een routine vast: lees elke week een steekproef van transcripties, zoek naar zinsdelen die op twijfel wijzen en werk de bronnen bij. In Call kunt u het volledige verloop van elk gesprek openen, alle bewaarde transcripties doorzoeken op een zinsdeel en de geschiedenis zien van correcties op de formuleringen van de agent. Onthoud dat transcripties een beperkte tijd worden bewaard, dus bekijk ze tijdig.
Dit toepassen in Call
Begin met het uitschrijven van uw meest gestelde vragen als exacte vraag-en-antwoordparen, voeg voor al het andere korte feitelijke bronnen toe en koppel de agent pas na het testen aan een lijn. Wilt u hulp bij het schrijven van prompts die gokken ontmoedigen, lees dan Prompts schrijven voor een LLM-telefoonagent. De vangrails die naast dit werk staan, komen aan bod in Vangrails voor voice-AI-agents.
Veelgestelde vragen
Wat is een hallucinatie bij voice-AI?
Het is een antwoord dat stellig klinkt maar niet wordt gedekt door uw informatie, bijvoorbeeld een verzonnen prijs of beleid. Het gebeurt als het model een gat opvult in plaats van toe te geven dat het iets niet weet.
Kunnen hallucinaties volledig worden uitgebannen?
Geen enkele tool kan dat beloven. U kunt ze sterk verminderen door te beperken wat de agent mag zeggen, bronnen actueel te houden en hem een veilige terugvaloptie te geven, maar u moet blijven testen en controleren.
Waarom beantwoordt de agent een vraag waarop ik hem nooit heb getraind?
Taalmodellen zijn gebouwd om aannemelijke tekst te produceren. Zonder duidelijke instructie om binnen uw bronnen te blijven en te zeggen wanneer hij iets niet kan bevestigen, kan hij improviseren.
Is een verkeerd verstaan woord hetzelfde als een hallucinatie?
Niet precies. Een verkeerd verstaan woord is een herkenningsfout, maar die kan leiden tot een fout antwoord dat op een hallucinatie lijkt. Bekijk de transcriptie om te zien wat er gebeurde.
Welke onderwerpen zijn het meest riskant?
Prijzen, beschikbaarheid, medisch of juridisch advies, terugbetalingen en elke belofte of toezegging. Geef de agent hiervoor een exacte formulering of een overdracht.
Hoe vaak moet ik transcripties bekijken?
Bij de lancering dagelijks of om de paar dagen, daarna wekelijks. Bekijk ze vaker nadat u de prompt of bronnen heeft gewijzigd.