Erfundene Antworten von Voice AI am Telefon verhindern
Warum Voice Agents manchmal Unwahres sagen und welche Schritte das begrenzen: verlässliche Quellen, sichere Ausweichantworten, Fangfragen und regelmäßige Prüfung.
Fragen Sie einen Voice Agent nach Ihren Öffnungszeiten, und er antwortet flüssig. Das Problem entsteht, wenn er ebenso flüssig über etwas antwortet, das ihm nie gesagt wurde. Genau das meint man mit Halluzination: eine Ausgabe, die richtig klingt, aber keine Grundlage in Ihren Informationen hat.

Am Telefon ist das Risiko größer als in einem Chatfenster. Der Anrufer hört einen selbstsicheren Satz – ohne Link, ohne Quelle und ohne einfache Möglichkeit, zurückzugehen. Dieser Leitfaden erklärt, warum Halluzinationen auftreten, wie Sie sie verringern und wie Sie prüfen, ob Ihre Maßnahmen wirken.
Was eine Halluzination ist und warum sie entsteht
Ein Sprachmodell erzeugt die plausibelste Fortsetzung eines Gesprächs. Es wurde mit riesigen Textmengen trainiert und hat kein eingebautes Gespür dafür, welche Aussagen für Ihr Unternehmen zutreffen. Fehlt die Antwort in Prompt oder Quellen, kann das Modell die Lücke mit etwas füllen, das vernünftig aussieht.
Typische Ursachen bei einem Telefonagenten
- Fehlende InformationenDer Anrufer fragt etwas, das niemand aufgeschrieben hat, also improvisiert das Modell.
- Veraltete InformationenEin alter Preis oder eine alte Öffnungszeit steht noch in einer Quelle.
- Mehrdeutige QuellenZwei Dokumente widersprechen sich, und der Agent wählt eines.
- Druck, hilfreich zu seinEin Prompt, der „immer antworten“ verlangt, fördert das Raten.
- Fehler der SpracherkennungEin falsch verstandenes Wort verändert die Frage, und der Agent beantwortet eine andere.
Die letzte Ursache wird leicht übersehen. Steht im Transkript Dienstag, obwohl der Anrufer Donnerstag sagte, ist die Antwort vielleicht völlig korrekt – nur für die falsche Frage. Wie Erkennungsfehler entstehen, zeigt Spracherkennung bei Telefonanrufen im Detail.
Wie das in der Praxis aussieht
Eine fiktive Zahnarztpraxis informiert ihren Agenten über Öffnungszeiten und angebotene Leistungen. Ein Anrufer fragt, ob die Praxis einen bestimmten Versicherungstarif akzeptiert. Ohne Information dazu sagt ein unachtsamer Agent womöglich Ja, weil viele Praxen das tun. Der Anrufer erscheint in der Erwartung, dass die Kosten übernommen werden, und ist verärgert. Die Lösung ist kein klügeres Modell, sondern eine klare Anweisung und eine Quelle, die sagt, was zu tun ist, wenn die Antwort unbekannt ist.
Typische Hochrisikothemen sind Preise, Verfügbarkeit, rechtliche oder medizinische Beratung, Erstattungszusagen und alles, was nach einer Verpflichtung klingt. Kennzeichnen Sie diese Bereiche als solche, in denen der Agent nicht improvisieren darf.
Warum Sprache es verschärft
Eine geschriebene Chatbot-Antwort kann einen Link, einen Hinweis oder eine sichtbare Quellenliste enthalten. Gesprochene Sprache hat nichts davon. Synthetische Stimmen sind zudem gleichmäßig und ruhig, sodass eine Vermutung genauso klingt wie ein Fakt; kein Zögern warnt den Anrufer. Anrufende handeln oft sofort nach dem, was sie hören: Sie fahren irgendwohin, sagen etwas ab oder bezahlen etwas.
Deshalb sollte die Grundhaltung bei Telefonagenten zur Zurückhaltung neigen. Eine kurze, ehrliche Antwort mit Verweis auf einen Menschen kostet ein paar Sekunden. Eine selbstsichere falsche Antwort kann einen Kunden kosten. Wenn Sie festlegen, wie streng Sie sein wollen, denken Sie an die schlimmste plausible Folge einer falschen Antwort zu jedem Thema und setzen Sie die Regel entsprechend: locker bei Öffnungszeiten, streng bei allem, was Geld, Gesundheit oder Rechte betrifft.
So verringern Sie erfundene Antworten
Ein mehrstufiger Ansatz
- Den Agenten verankernGeben Sie ihm freigegebene Fakten und weisen Sie ihn an, nur daraus zu antworten.
- Das Unbekannte definierenSchreiben Sie auf, was er sagen soll, wenn ihm eine Antwort fehlt.
- Zusagen einschränkenVerbieten Sie Versprechen, die er nicht halten kann, etwa Rabatte oder bestätigte Buchungen.
- Einen Weg anbietenBieten Sie als nächsten Schritt immer einen Menschen, eine Nachricht oder einen Rückruf an.
- Testen und prüfenStellen Sie Fragen außerhalb der Quellen und lesen Sie echte Transkripte.
In freigegebenen Quellen verankern
Retrieval bedeutet, im Moment der Frage relevante Abschnitte aus Ihren Dokumenten herauszusuchen und nur diese dem Modell zu geben. So bleiben Antworten an Texte gebunden, die Sie geschrieben haben. Retrieval für Voice Agents erklärt die Idee, und Wissensquellen in Call zeigt, wie das im Produkt aussieht.
Kurze, eindeutige Fakten schreiben
Ein Fakt pro Eintrag, einschließlich der Bedingung, funktioniert besser als eine lange Broschüre. Statt „Wir haben am Wochenende geöffnet“ schreiben Sie „Samstag 9 bis 13 Uhr, sonntags geschlossen“. Hat ein Thema Ausnahmen, nennen Sie sie im selben Eintrag.
Exakte Antworten für wichtige Fragen verwenden
Bei Fragen, bei denen es auf den Wortlaut ankommt, etwa Stornobedingungen, geben Sie dem Agenten die exakte Antwort zum Vorlesen. In Call können Sie eine Frage und die exakte Antwort hinterlegen, die der Agent geben soll, sodass er nicht umschreiben muss.
Ihm „Das weiß ich nicht“ beibringen
Ein ehrliches „Das kann ich in diesem Gespräch nicht bestätigen, aber ich nehme gern Ihre Angaben auf, und jemand meldet sich bei Ihnen“ ist weit besser als eine Vermutung. In Call ist der Agent darauf ausgelegt, klar zu sagen, dass er etwas nicht bestätigen kann, wenn nichts in seinen Anweisungen oder Quellen die Frage beantwortet, und einen Menschen anzubieten, wo die Leitung Anrufende durchstellen kann. Er erfindet zudem nie Preise, Öffnungszeiten, Daten oder andere Fakten, die Ihre Anweisungen und Quellen nicht nennen, und Ihre Anweisungen können diese Regeln nicht abschalten.
Verankerte und nicht verankerte Antworten
Dieselbe Frage, zwei Einrichtungen
| Nicht verankerter Agent | Verankerter Agent | |
|---|---|---|
| Quelle der Antwort | Allgemeinwissen und plausible Vermutungen | Nur Ihre freigegebenen Fakten |
| Wenn Informationen fehlen | Erfindet etwas Flüssiges | Sagt, dass er es nicht bestätigen kann, bietet einen nächsten Schritt an |
| Risiko für Anrufende | Handeln womöglich nach falschen Angaben | Wissen, was unsicher ist |
| Pflege | Schnell gestartet, schwer zu vertrauen | Quellen müssen aktuell gehalten werden |
Gezielt auf Halluzinationen testen
Warten Sie nicht, bis ein Kunde die Lücken findet. Stellen Sie einen kleinen Satz Fangfragen zusammen und spielen Sie ihn bei jeder Änderung von Prompt oder Quellen durch.
Ein Testsatz für Halluzinationen
- Nach einer Leistung fragen, die Sie nicht anbieten
- Nach einem Preis fragen, der nicht in den Quellen steht
- Nach einer Ausnahme von einer Regelung fragen, die niemand aufgeschrieben hat
- Nach einem Datum weit in der Zukunft fragen
- Eine Frage anders formulieren als in Ihren schriftlichen Antworten
- Etwas fragen, das ähnlich klingt wie ein abgedecktes Thema
- Prüfen, dass jede unbekannte Frage mit einem sicheren nächsten Schritt endet
Wiederholen Sie den Testsatz nach Änderungen und ergänzen Sie jeden echten Fehler, den Sie finden. Den umfassenderen Testprozess beschreibt Einen Voice-AI-Agenten testen.
Nach dem Start weiter beobachten
Die Kontrolle von Halluzinationen ist keine einmalige Aufgabe. Informationen ändern sich, neue Fragen tauchen auf, und Prompts verändern sich schleichend, wenn Menschen sie bearbeiten. Legen Sie eine Routine fest: Lesen Sie jede Woche eine Stichprobe von Transkripten, suchen Sie nach Formulierungen, die auf Unsicherheit hindeuten, und aktualisieren Sie die Quellen. In Call können Sie das vollständige Gespräch jedes Anrufs öffnen, alle gespeicherten Transkripte nach einer Formulierung durchsuchen und den Verlauf der Korrekturen an den Formulierungen des Agenten einsehen. Denken Sie daran, dass Transkripte nur begrenzt aufbewahrt werden – prüfen Sie sie also zeitnah.
Umsetzung in Call
Schreiben Sie zuerst Ihre häufigsten Fragen als exakte Frage-Antwort-Paare auf, ergänzen Sie kurze sachliche Quellen für alles andere und ordnen Sie den Agenten erst nach dem Testen einer Leitung zu. Wenn Sie Hilfe beim Formulieren von Prompts möchten, die vom Raten abhalten, lesen Sie Prompting für LLM-Telefonagenten. Die Leitplanken, die diese Arbeit ergänzen, behandelt Leitplanken für Voice AI.
Häufig gestellte Fragen
Was ist eine Halluzination bei Voice AI?
Eine Antwort, die selbstsicher klingt, aber nicht durch Ihre Informationen gedeckt ist, zum Beispiel ein erfundener Preis oder eine erfundene Regelung. Sie entsteht, wenn das Modell eine Lücke füllt, statt zuzugeben, dass es etwas nicht weiß.
Lassen sich Halluzinationen vollständig beseitigen?
Das kann kein Tool versprechen. Sie können sie stark verringern, indem Sie eingrenzen, was der Agent sagen darf, Quellen aktuell halten und ihm eine sichere Ausweichantwort geben – aber Sie sollten weiter testen und prüfen.
Warum beantwortet der Agent eine Frage, die ich ihm nie beigebracht habe?
Sprachmodelle sind darauf ausgelegt, plausiblen Text zu erzeugen. Ohne klare Anweisung, bei Ihren Quellen zu bleiben und zu sagen, wenn er etwas nicht bestätigen kann, improvisiert er womöglich.
Ist ein falsch verstandenes Wort dasselbe wie eine Halluzination?
Nicht ganz. Ein falsch verstandenes Wort ist ein Erkennungsfehler, kann aber zu einer falschen Antwort führen, die wie eine Halluzination aussieht. Prüfen Sie im Transkript, was passiert ist.
Welche Themen sind am riskantesten?
Preise, Verfügbarkeit, medizinische oder rechtliche Beratung, Erstattungen sowie jedes Versprechen und jede Verpflichtung. Geben Sie dem Agenten dafür exakte Formulierungen oder eine Übergabe vor.
Wie oft sollte ich Transkripte prüfen?
Zum Start täglich oder alle paar Tage, danach wöchentlich. Prüfen Sie häufiger, nachdem Sie Prompt oder Quellen geändert haben.