Spraak-AI-technologie

Latency bij voice AI: wat een gesprek natuurlijk laat voelen

Waarom voice AI soms pauzeert, waar vertraging vandaan komt, wat bellers als natuurlijk ervaren en hoe u een telefoonagent sneller laat reageren.

Redactie van Call · Gepubliceerd · 6 min leestijd

In een gewoon gesprek reageren mensen vrijwel direct op elkaar. Een pauze die in een e-mail niet opvalt, voelt aan de telefoon lang. Wacht een voice AI te lang, dan vragen bellers zich af of de verbinding is weggevallen, zeggen ze "hallo?" en praten ze door het antwoord heen wanneer dat eindelijk komt. Latency is dus geen technisch detail maar een kernonderdeel van kwaliteit.

Geluidsgolven op een scherm naast iemand die in een headsetmicrofoon spreekt
Illustratieve afbeelding

Deze gids legt uit waar vertraging vandaan komt, wat bellers ervaren en welke technieken de vertraging verkleinen of minder merkbaar maken. Tot slot leest u hoe u de snelheid in Call controleert. Voor de onderliggende technologie, zie Hoe voice AI werkt.

Wat latency betekent in een gesprek

Latency is de tijd tussen het moment dat een beller stopt met praten en het moment dat de agent begint te antwoorden. Bellers meten dat niet in milliseconden; ze voelen het als aarzeling. Een korte, natuurlijke pauze is prima en zelfs geruststellend. Een lange stilte verstoort het ritme, en een onregelmatig ritme voelt onnatuurlijk, ook als het gemiddelde acceptabel is.

Twee andere vertragingen tellen ook mee. De ene is de tijd voor de eerste begroeting wanneer de verbinding tot stand komt, de andere is de tijd tijdens een opzoekactie, zoals het controleren van een dossier. Elk vraagt een eigen aanpak.

Waar de vertraging vandaan komt

De fasen die een gesproken antwoord doorloopt

  1. Einde-detectieHet systeem besluit dat de beller is uitgesproken.
  2. HerkenningSpraak wordt omgezet in tekst.
  3. DenkenEen taalmodel formuleert het antwoord.
  4. OpzoekenOptioneel: een verzoek aan een ander systeem om gegevens.
  5. SpraaksyntheseTekst wordt omgezet in een stem.
  6. TelefoonlijnDe audio reist naar de beller en wordt afgespeeld.

Elke fase voegt een beetje toe, en samen telt dat op. De einde-detectie wordt makkelijk over het hoofd gezien: wacht het systeem op een lange stilte voordat het besluit dat de beller klaar is, dan begint elk antwoord te laat. Staat die te kort ingesteld, dan krijgt u het omgekeerde probleem: de agent onderbreekt bellers die even pauzeren om na te denken.

FaseWat er invloed op heeftGebruikelijke knop om aan te draaien
Einde-detectieStiltedrempel, achtergrondgeluidStel de drempel zorgvuldig af
HerkenningAudiokwaliteit, taalSchone audio, juiste taalinstelling
DenkenLengte van het antwoord, keuze van het modelKorte antwoorden, passend model
OpzoekenSnelheid van het externe systeemAlleen opzoeken als het nodig is
SpraaksyntheseOf audio wordt gestreamdVroeg beginnen met spreken
TelefoonlijnNetwerkafstandBeperk tussenstappen waar mogelijk

Wat bellers als natuurlijk ervaren

Mensen accepteren op verschillende momenten verschillende vertragingen. Een korte pauze voor een ingewikkeld antwoord voelt natuurlijk, want een mens zou ook nadenken. Een lange pauze na "ja" voelt alsof er iets kapot is. Streef naar snelle, consistente antwoorden op eenvoudige vragen en geef eerlijke signalen als er meer tijd nodig is.

Onderbrekingen

Natuurlijke gesprekken kennen overlap. Kan de agent niet worden onderbroken, dan voelen bellers zich toegesproken. Stopt hij bij elke kuch, dan hapert het gesprek. Zie Barge-in en onderbrekingen en Beurtwisseling bij spraakagents voor de details.

Manieren om vertraging te verminderen

Technieken die helpen

  • Korte eerste zinnenBegin met een paar woorden en ga dan verder. De beller hoort eerder een antwoord.
  • StreamingBegin te spreken zodra het eerste deel van het antwoord klaar is, in plaats van op het geheel te wachten.
  • Voorbereide begroetingenBereid de opening vooraf voor, zodat die direct klinkt wanneer de verbinding tot stand komt.
  • Discipline bij opzoekenHaal externe informatie alleen op als de vraag erom vraagt, en houd opzoekacties snel.

Ook het promptontwerp telt. Een antwoord van een korte alinea kost meer tijd om te genereren en uit te spreken dan een of twee zinnen. Instrueer de agent om beknopt te zijn en liever een vervolgvraag te stellen dan alles op te sommen wat hij weet. Voor menu-achtige taken kan een korte IVR-stap vóór de AI eenvoudige routering direct afhandelen, zodat de AI vrij blijft voor open vragen. Zie IVR versus AI-spraakagent.

Denken in een latency-budget

Een handige manier om over snelheid na te denken, is de pauze te zien als een budget waaruit elke fase put. U kunt dezelfde tijd niet twee keer uitgeven, dus een besparing in de ene fase kan een functie in een andere betalen. Wilt u bijvoorbeeld een klantdossier opzoeken, dan moet u misschien elders tijd besparen door antwoorden in te korten of de drempel voor einde-detectie aan te scherpen.

Dit helpt ook bij het vergelijken van aanbieders of instellingen. Een wijziging die de stem beter laat klinken maar een merkbare pauze toevoegt, kan aan de telefoon een slechte ruil zijn, omdat timing daar zwaarder weegt dan afwerking. Bellers vergeven een iets eenvoudige stem veel sneller dan een haperend gesprek.

Een fictief voorbeeld

Stel u een kleine kliniek voor waarvan de agent vragen over openingstijden beantwoordt en afspraakverzoeken aanneemt. De meeste gesprekken vragen geen opzoekactie, dus antwoorden kunnen snel zijn. De kliniek wil een controle van de volgende afspraak van de beller toevoegen. In plaats van die opzoekactie aan elk gesprek toe te voegen, laat ze de agent het dossier pas opzoeken nadat de beller naar de afspraak vraagt, en eerst zeggen "ik kijk het even voor u na". Eenvoudige vragen blijven snel, en de tragere stap is eerlijk over zichzelf.

Goed meten

Eén testgesprek op een goede verbinding zegt weinig. Meet veel echte gesprekken over meerdere dagen en tijdstippen, en kijk naar de spreiding, niet alleen naar het gemiddelde. De traagste antwoorden zijn wat bellers onthouden.

Een eenvoudig testplan voor latency

  • Tien gesprekken op verschillende momenten van de dag
  • Korte vragen, lange vragen en vragen die een opzoekactie vereisen
  • Gesprekken vanaf een mobiele telefoon en vanaf een vaste lijn
  • Lawaaiige en rustige omgevingen
  • Notities over de traagste antwoorden en wat de vraag was
  • Een herhaling na elke wijziging, om te controleren of die hielp

Houd instellingen en resultaten bij, zodat u weet wat werkte. Een AI-spraakagent testen vóór de lancering behandelt testen breder, en Evaluatiemetrics voor voice AI beschrijft wat u bijhoudt.

Grenzen om te accepteren

Sommige vertraging is niet weg te nemen. Telefoonnetwerken, spraakdiensten en taalmodellen kosten allemaal tijd, en de kwaliteit van elk varieert gedurende de dag. Wees op uw hoede voor elke belofte van een vaste reactietijd. Een realistisch doel is een tempo dat aanvoelt als een bedachtzaam persoon, met snelle antwoorden op eenvoudige vragen en een eerlijke aanpak van tragere.

Zo controleert u het in Call

In Call begint uw AI-agent te spreken zodra het eerste deel van het antwoord klaar is, en bij uitgaande gesprekken wordt de begroeting voorbereid terwijl de telefoon overgaat, zodat degene die opneemt die direct hoort. Antwoorden blijven kort en natuurlijk, zonder opvulling als "een ogenblikje alstublieft". De snelheid hangt af van het telefoonnetwerk en van de AI- en spraakdiensten, dus de timing wordt per gesprek gemeten in plaats van beloofd. Managers kunnen een gesprek openen in Call history om te zien hoe lang elke gesproken beurt duurde.

Onder Voice, Agent voice bevatten de Transcriber-instellingen een stiltedrempel: verlaag die voor een snellere beurtwisseling en verhoog die als de agent bellers afkapt. Met de Conversation-instellingen staat u onderbrekingen toe of niet en bepaalt u hoe lang een stilte mag duren voordat een gesprek eindigt. Om het resultaat te horen, gebruikt u het testgesprek in de rij van de agent, waarmee uw eigen telefoon wordt gebeld; elke test is een echt, betaald gesprek. Controleer wijzigingen met een paar gesprekken voordat u ze op een live lijn toepast.

Veelgestelde vragen

Wat is een goede reactietijd voor een spraakagent?

Er is geen vast getal. Streef naar antwoorden die aanvoelen als een bedachtzaam persoon: snel bij eenvoudige vragen en een eerlijke pauze bij moeilijkere. Meet echte gesprekken om te zien waar u staat.

Waarom pauzeert mijn AI-agent soms lang?

Veelvoorkomende oorzaken zijn een opzoekactie in een ander systeem, een lang antwoord, een traag netwerk of een stiltedrempel die te lang wacht voordat wordt besloten dat u klaar bent.

Kunnen opvulwoorden vertraging oplossen?

Korte opvulzinnen kunnen helpen tijdens een opzoekactie, maar gebruik ze spaarzaam. Te veel ervan klinkt ingestudeerd en kan bellers juist ongeduldiger maken.

Helpt een korter antwoord echt?

Ja. Een korter antwoord kost minder tijd om te genereren en uit te spreken, en de beller kan sneller reageren.

Moet ik bellers de agent laten onderbreken?

Meestal wel. Onderbrekingen horen bij een natuurlijk gesprek. Test de instelling zodat de agent snel stopt bij echte spraak, maar niet bij een kuch of een kort "hm-hm".

Hoe vaak moet ik latency testen?

Na elke wijziging aan de prompt, stem, kennis of instellingen, en periodiek op echte gesprekken, omdat netwerk- en dienstsnelheden variëren.

Test de reactiesnelheid van uw AI-agent in Call

In de democonsole probeert u inkomende gesprekken uit in een simulatie.

Gerelateerde gidsen