Sprach-KI-Technologie

Latenz bei Sprach-KI: Was Gespräche natürlich wirken lässt

Warum Sprach-KI manchmal Pausen macht, woher Verzögerungen kommen, was Anrufende als natürlich empfinden und wie ein Telefonagent schneller antwortet.

Redaktion von Call · Veröffentlicht · 6 Min. Lesezeit

Im normalen Gespräch antworten Menschen einander fast sofort. Eine Pause, die in einer E-Mail nicht auffiele, wirkt am Telefon lang. Wartet eine Sprach-KI zu lange, fragen sich Anrufende, ob die Verbindung abgebrochen ist, sagen „Hallo?“ und reden in die Antwort hinein, wenn sie endlich kommt. Latenz ist also keine technische Kuriosität, sondern ein zentraler Teil der Qualität.

Schallwellen auf einem Bildschirm neben einer Person, die in ein Headset-Mikrofon spricht
Symbolbild

Dieser Leitfaden erklärt, woher Verzögerungen kommen, was Anrufende wahrnehmen und mit welchen Techniken Sie sie verringern oder weniger spürbar machen. Am Ende steht, wie Sie die Geschwindigkeit in Call prüfen. Zur zugrunde liegenden Technik siehe Wie Sprach-KI funktioniert.

Was Latenz am Telefon bedeutet

Latenz ist die Zeit zwischen dem Moment, in dem die anrufende Person aufhört zu sprechen, und dem Moment, in dem der Agent zu antworten beginnt. Anrufende messen sie nicht in Millisekunden; sie spüren sie als Zögern. Eine kurze, natürliche Pause ist in Ordnung und wirkt sogar beruhigend. Eine lange Lücke bricht den Rhythmus, und ein ungleichmäßiger Rhythmus wirkt unnatürlich, selbst wenn der Durchschnitt akzeptabel ist.

Zwei weitere Verzögerungen sind wichtig: die Zeit bis zur ersten Begrüßung, wenn der Anruf verbunden wird, und die Zeit während einer Abfrage, etwa beim Prüfen eines Datensatzes. Beide brauchen ihre eigene Behandlung.

Woher die Verzögerung kommt

Die Stationen einer gesprochenen Antwort

  1. Ende-ErkennungDas System entscheidet, dass die anrufende Person fertig gesprochen hat.
  2. SpracherkennungSprache wird in Text umgewandelt.
  3. NachdenkenEin Sprachmodell formuliert die Antwort.
  4. AbfrageOptional: eine Anfrage an ein anderes System, um Fakten zu holen.
  5. SprachsyntheseText wird in eine Stimme umgewandelt.
  6. TelefonleitungDer Ton gelangt zur anrufenden Person und wird abgespielt.

Jede Station kostet ein wenig Zeit, und zusammen summiert sich das. Die Ende-Erkennung wird leicht übersehen: Wartet das System auf eine lange Stille, bevor es entscheidet, dass die Person fertig ist, beginnt jede Antwort zu spät. Ist sie zu kurz eingestellt, entsteht das umgekehrte Problem: Der Agent unterbricht Anrufende, die zum Nachdenken innehalten.

StationWas sie beeinflusstTypischer Hebel
Ende-ErkennungStilleschwelle, HintergrundgeräuscheDie Schwelle sorgfältig einstellen
SpracherkennungAudioqualität, SpracheSauberes Audio, richtige Spracheinstellung
NachdenkenLänge der Antwort, ModellwahlKurze Antworten, passendes Modell
AbfrageGeschwindigkeit des externen SystemsNur bei Bedarf abfragen
SprachsyntheseOb der Ton gestreamt wirdFrüh zu sprechen beginnen
TelefonleitungNetzwerkentfernungZwischenstationen wo möglich reduzieren

Was Anrufende als natürlich empfinden

Menschen tolerieren je nach Moment unterschiedliche Verzögerungen. Eine kurze Pause vor einer komplizierten Antwort wirkt natürlich, weil auch ein Mensch nachdenken würde. Eine lange Pause nach „ja“ wirkt kaputt. Streben Sie schnelle, gleichmäßige Antworten auf einfache Fragen an und geben Sie ehrliche Signale, wenn mehr Zeit nötig ist.

Unterbrechungen

Natürliche Gespräche enthalten Überschneidungen. Lässt sich der Agent nicht unterbrechen, fühlen sich Anrufende zugeredet. Hält er bei jedem Husten an, stockt das Gespräch. Details finden Sie in Barge-in: Wie Sprach-KI Unterbrechungen durch Anrufende behandelt und Sprecherwechsel bei Sprachagenten.

Wege, die Verzögerung zu verringern

Techniken, die helfen

  • Kurze erste SätzeMit wenigen Worten beginnen, dann fortfahren. Die anrufende Person hört früher eine Antwort.
  • StreamingZu sprechen beginnen, sobald der erste Teil der Antwort bereit ist, statt auf die ganze Antwort zu warten.
  • Vorbereitete BegrüßungenDie Eröffnung vorab vorbereiten, damit sie sofort abgespielt wird, wenn ein Anruf verbunden ist.
  • Disziplin bei AbfragenExterne Informationen nur abrufen, wenn die Frage es erfordert, und Abfragen schnell halten.

Auch die Gestaltung des Prompts zählt. Eine Antwort in Form eines kurzen Absatzes braucht länger zum Erzeugen und Sprechen als ein, zwei Sätze. Weisen Sie den Agenten an, sich kurz zu fassen und lieber eine Rückfrage zu stellen, statt alles aufzuzählen, was er weiß. Bei menüartigen Aufgaben kann ein kurzer IVR-Schritt vor der KI einfache Weiterleitungen sofort erledigen und die KI für offene Fragen freihalten. Siehe IVR oder KI-Sprachagent.

In einem Latenzbudget denken

Es hilft, die Pause als Budget zu betrachten, aus dem jede Station schöpft. Dieselbe Zeit lässt sich nicht zweimal ausgeben; eine Einsparung an einer Stelle kann also eine Funktion an anderer Stelle finanzieren. Wenn Sie etwa eine Abfrage im Kundendatensatz möchten, müssen Sie womöglich anderswo Zeit sparen, indem Sie Antworten kürzen oder die Schwelle der Ende-Erkennung enger einstellen.

Das hilft auch beim Vergleich von Anbietern oder Einstellungen. Eine Änderung, die die Stimme besser klingen lässt, aber eine spürbare Pause hinzufügt, kann für eine Telefonleitung ein schlechter Tausch sein, denn dort zählt das Timing mehr als der Feinschliff. Anrufende verzeihen eine etwas schlichte Stimme weit eher als ein stockendes Gespräch.

Ein fiktives Beispiel

Stellen Sie sich eine kleine Praxis vor, deren Agent Fragen zu Öffnungszeiten beantwortet und Terminwünsche aufnimmt. Die meisten Anrufe brauchen keine Abfrage, die Antworten können also schnell sein. Die Praxis möchte prüfen können, wann der nächste Termin der anrufenden Person ist. Statt die Abfrage bei jedem Anruf auszuführen, lässt sie den Agenten den Datensatz erst abfragen, wenn nach dem Termin gefragt wird, und vorher „Ich sehe kurz für Sie nach“ sagen. Einfache Fragen bleiben schnell, und der langsamere Schritt ist ehrlich zu sich selbst.

Richtig messen

Ein einzelner Testanruf über eine gute Verbindung sagt wenig. Messen Sie viele echte Anrufe über mehrere Tage und Tageszeiten und achten Sie auf die Streuung, nicht nur auf den Durchschnitt. Die langsamsten Antworten sind es, an die sich Anrufende erinnern.

Ein einfacher Plan für Latenztests

  • Zehn Anrufe zu verschiedenen Tageszeiten
  • Kurze Fragen, lange Fragen und Fragen, die eine Abfrage brauchen
  • Anrufe vom Mobiltelefon und vom Festnetz
  • Laute und ruhige Umgebungen
  • Notizen zu den langsamsten Antworten und der jeweiligen Frage
  • Eine Wiederholung nach jeder Änderung, um zu prüfen, ob sie geholfen hat

Halten Sie Einstellungen und Ergebnisse fest, damit Sie wissen, was gewirkt hat. Einen Sprach-KI-Agenten vor dem Start testen behandelt das Testen umfassender, und Kennzahlen zur Bewertung von Sprach-KI beschreibt, was Sie verfolgen sollten.

Grenzen, die Sie akzeptieren sollten

Manche Verzögerung lässt sich nicht beseitigen. Telefonnetze, Sprachdienste und Sprachmodelle brauchen Zeit, und ihre Qualität schwankt im Tagesverlauf. Seien Sie vorsichtig bei jedem Versprechen einer festen Antwortzeit. Ein realistisches Ziel ist ein Tempo, das sich wie ein nachdenklicher Mensch anfühlt: schnelle Antworten auf einfache Fragen und ein ehrlicher Umgang mit langsameren.

Prüfen in Call

In Call beginnt Ihr KI-Agent zu sprechen, sobald der erste Teil seiner Antwort bereit ist, und bei ausgehenden Anrufen wird die Begrüßung vorbereitet, während das Telefon klingelt, sodass die angerufene Person sie sofort hört. Antworten werden kurz und natürlich gehalten, ohne Füllsätze wie „einen Moment bitte“. Die Geschwindigkeit hängt vom Telefonnetz und von den KI- und Sprachdiensten ab; die Zeiten werden daher bei jedem Anruf gemessen statt versprochen. Manager können einen Anruf im Anrufverlauf öffnen und sehen, wie lange jeder gesprochene Redebeitrag gedauert hat.

Unter Stimme, Agentenstimme enthalten die Einstellungen zur Transkription eine Stilleschwelle: Senken Sie sie für schnellere Sprecherwechsel und erhöhen Sie sie, wenn der Agent Anrufenden ins Wort fällt. In den Einstellungen zur Konversation können Sie Unterbrechungen erlauben oder verbieten und festlegen, wie lange Stille dauern darf, bevor ein Anruf endet. Um das Ergebnis zu hören, nutzen Sie den Testanruf in der Zeile des Agenten, der Ihr eigenes Telefon klingeln lässt; jeder Test ist ein echter, abgerechneter Anruf. Prüfen Sie Änderungen mit einigen Anrufen, bevor Sie sie auf eine Live-Leitung anwenden.

Häufig gestellte Fragen

Was ist eine gute Antwortzeit für einen Sprachagenten?

Es gibt keine feste Zahl. Streben Sie Antworten an, die sich wie ein nachdenklicher Mensch anfühlen: schnell bei einfachen Fragen und eine ehrliche Pause bei schwierigeren. Messen Sie echte Anrufe, um zu sehen, wo Sie stehen.

Warum macht mein KI-Agent manchmal lange Pausen?

Häufige Ursachen sind eine Abfrage in einem anderen System, eine lange Antwort, ein langsames Netz oder eine Stilleschwelle, die zu lange wartet, bevor sie entscheidet, dass Sie fertig sind.

Können Füllwörter die Verzögerung beheben?

Kurze Füllwörter können während einer Abfrage helfen, sollten aber sparsam eingesetzt werden. Übermäßig genutzt wirken sie einstudiert und können Anrufende ungeduldiger machen.

Hilft eine kürzere Antwort wirklich?

Ja. Eine kürzere Antwort braucht weniger Zeit zum Erzeugen und Sprechen und gibt der anrufenden Person früher die Gelegenheit zu antworten.

Sollten Anrufende den Agenten unterbrechen dürfen?

Meist ja. Unterbrechungen gehören zum natürlichen Gespräch. Testen Sie die Einstellung, damit der Agent bei echter Sprache schnell innehält, aber nicht bei einem Husten oder einem kurzen „mhm“.

Wie oft sollte ich die Latenz testen?

Nach jeder Änderung an Prompt, Stimme, Wissen oder Einstellungen und regelmäßig an echten Anrufen, denn Netz- und Dienstgeschwindigkeiten schwanken.

Testen Sie die Antwortgeschwindigkeit Ihres KI-Agenten in Call

In der Demo-Konsole können Sie eingehende Anrufe in einer Simulation ausprobieren.

Verwandte Ratgeber