Tale-AI-teknologi

Undgå opdigtede svar fra stemme-AI i telefonen

Hvorfor stemmeagenter nogle gange siger noget, der ikke er sandt, og hvad der begrænser det: forankrede kilder, sikre nødløsninger, fældespørgsmål og gennemgang.

Calls redaktion · Udgivet · 5 min. læsetid

Spørg en stemmeagent om dine åbningstider, og den svarer glat. Problemet opstår, når den svarer lige så glat om noget, den aldrig har fået at vide. Det er det, folk mener med en hallucination: output, der lyder rigtigt, men ikke har grundlag i dine oplysninger.

En person, der lytter opmærksomt i et telefonopkald ved sit skrivebord
Illustrativt billede

På en telefonlinje er risikoen større end i et chatvindue. Kunden hører én selvsikker sætning og intet link, ingen kilde og ingen nem måde at gå tilbage på. Denne guide forklarer, hvorfor hallucinationer opstår, hvordan du mindsker dem, og hvordan du tjekker, at dine rettelser virker.

Hvad en hallucination er, og hvorfor den opstår

En sprogmodel producerer den mest plausible fortsættelse af en samtale. Den er trænet på enorme mængder tekst og har ingen indbygget fornemmelse af, hvilke udsagn der er sande for din virksomhed. Når svaret mangler i prompten eller kilderne, kan modellen fylde hullet med noget, der ser rimeligt ud.

Typiske årsager hos en telefonagent

  • Manglende oplysningerKunden spørger om noget, ingen har skrevet ned, så modellen improviserer.
  • Forældede oplysningerEn gammel pris eller åbningstid står stadig i en kilde.
  • Tvetydige kilderTo dokumenter er uenige, og agenten vælger det ene.
  • Pres for at være hjælpsomEn prompt, der siger svar altid, opfordrer til at gætte.
  • Fejl i talegenkendelsenEt forkert hørt ord ændrer spørgsmålet, så agenten svarer på et andet.

Den sidste årsag er let at overse. Står der tirsdag i udskriften, når kunden sagde torsdag, kan svaret være helt korrekt på det forkerte spørgsmål. Se Talegenkendelse i telefonopkald for, hvordan genkendelsesfejl opstår.

Sådan ser det ud i praksis

En tænkt tandklinik har måske fortalt sin agent om åbningstider og de behandlinger, den tilbyder. En kunde spørger, om klinikken samarbejder med en bestemt forsikring. Uden oplysninger om det siger en skødesløs agent måske ja, fordi mange klinikker gør. Kunden møder op og forventer dækning og bliver utilfreds. Løsningen er ikke en klogere model, men en klar instruktion og en kilde, der siger, hvad der skal gøres, når svaret er ukendt.

Almindelige højrisikoemner er priser, ledige tider, juridisk eller medicinsk rådgivning, løfter om refusion og alt, der lyder som en forpligtelse. Markér dem som områder, hvor agenten ikke må improvisere.

Hvorfor tale gør det værre

Et skrevet chatbotsvar kan have et link, et forbehold eller en synlig liste over kilder. Tale har intet af det. Syntetiske stemmer er også glatte og jævne, så et gæt lyder præcis som en kendsgerning; der er ingen tøven, der advarer kunden. Kunder handler ofte straks på det, de hører, ved at køre et sted hen, aflyse noget eller betale noget.

Derfor bør designet af telefonagenter hælde mod tilbageholdenhed. Et kort, ærligt svar, der henviser til et menneske, koster nogle få sekunder. Et selvsikkert forkert svar kan koste en kunde. Når du beslutter, hvor streng du vil være, så tænk på den værst tænkelige konsekvens af et forkert svar inden for hvert emne, og fastsæt reglen derefter: afslappet for åbningstider, streng for alt, der involverer penge, helbred eller juridiske rettigheder.

Sådan mindsker du opdigtede svar

En tilgang i lag

  1. Forankr agentenGiv den godkendte fakta, og bed den kun svare ud fra dem.
  2. Definér det ukendteSkriv, hvad den skal sige, når den mangler et svar.
  3. Begræns forpligtelserForbyd løfter, den ikke kan holde, som rabatter eller bekræftede bookinger.
  4. Tilbyd en vejGiv altid et menneske, en besked eller et opkald tilbage som næste skridt.
  5. Test og gennemgåPrøv spørgsmål uden for kilderne, og læs rigtige udskrifter.

Forankr den i godkendte kilder

Retrieval betyder, at man slår relevante afsnit op i dine dokumenter i det øjeblik, spørgsmålet stilles, og kun giver dem til modellen. Det holder svarene bundet til tekst, du har skrevet. Videnssøgning for stemmeagenter forklarer idéen, og Vidensbaser i Call viser, hvordan det ser ud i produktet.

Skriv korte, entydige fakta

Én kendsgerning pr. punkt med betingelsen medtaget virker bedre end en lang brochure. I stedet for Vi har åbent i weekenden så skriv Lørdag 9 til 13, lukket om søndagen. Har et emne undtagelser, så skriv dem i samme punkt.

Brug præcise svar på vigtige spørgsmål

Ved spørgsmål, hvor formuleringen betyder noget, som afbestillingsregler, så giv agenten det præcise svar, den skal læse op. I Call kan du tilføje et spørgsmål og det præcise svar, agenten skal give, så den ikke behøver omformulere.

Lær den at sige, at den ikke ved det

Et ærligt Det kan jeg ikke bekræfte i dette opkald, men jeg kan tage dine oplysninger, så nogen vender tilbage til dig er langt bedre end et gæt. I Call er agenten designet til at sige ligeud, at den ikke kan bekræfte noget, når intet i dens instruktioner eller kilder besvarer spørgsmålet, og til at tilbyde et menneske, hvor linjen kan stille kunder videre. Den opfinder heller aldrig priser, åbningstider, datoer eller andre fakta, som dine instruktioner og kilder ikke angiver, og dine instruktioner kan ikke slå disse regler fra.

Forankrede kontra uforankrede svar

Samme spørgsmål, to opsætninger

Uforankret agentForankret agent
Svarets kildeGenerel viden og plausible gætKun dine godkendte fakta
Når oplysninger manglerFinder på noget flydendeSiger, at den ikke kan bekræfte, og tilbyder et næste skridt
Risiko for kundenKan handle på forkerte oplysningerVed, hvad der er usikkert
VedligeholdelseLet at starte, svær at stole påKræver, at kilderne holdes opdaterede

Test bevidst for hallucinationer

Vent ikke på, at en kunde finder hullerne. Byg et lille sæt fældespørgsmål, og kør dem, hver gang du ændrer prompten eller kilderne.

Et testsæt for hallucinationer

  • Spørg om en ydelse, du ikke tilbyder
  • Spørg om en pris, der ikke står i kilderne
  • Spørg om en undtagelse fra reglerne, som ingen har skrevet ned
  • Spørg om en dato langt ude i fremtiden
  • Stil et spørgsmål formuleret anderledes end dine skrevne svar
  • Spørg om noget, der lyder som et dækket emne
  • Tjek, at hvert ukendt spørgsmål ender med et sikkert næste skridt

Gentag sættet efter ændringer, og føj hver rigtig fejl, du finder, til det. Den bredere testproces beskrives i Test af en stemme-AI-agent.

Hold øje efter lanceringen

Kontrol med hallucinationer er ikke en engangsopgave. Oplysninger ændrer sig, nye spørgsmål dukker op, og prompter glider, efterhånden som folk redigerer dem. Indfør en rutine: Læs en stikprøve af udskrifter hver uge, søg efter vendinger, der signalerer tvivl, og opdatér kilderne. I Call kan du åbne hele samtalen i ethvert opkald, søge i alle gemte udskrifter efter en vending og se historikken over rettelser af agentens formuleringer. Husk, at udskrifter gemmes i en begrænset periode, så gennemgå dem hurtigt.

Sådan bruger du det i Call

Start med at skrive dine hyppigste spørgsmål som præcise spørgsmål-og-svar-par, tilføj korte faktuelle kilder til alt andet, og knyt først agenten til en linje efter test. Vil du have hjælp til at skrive prompter, der modvirker gæt, så læs Prompting af en LLM-telefonagent. De sikkerhedsrammer, der hører med til dette arbejde, behandles i Sikkerhedsrammer for stemme-AI-agenter.

Ofte stillede spørgsmål

Hvad er en hallucination i stemme-AI?

Det er et svar, der lyder selvsikkert, men ikke understøttes af dine oplysninger, for eksempel en opdigtet pris eller regel. Det sker, når modellen fylder et hul i stedet for at indrømme, at den ikke ved det.

Kan hallucinationer fjernes helt?

Intet værktøj kan love det. Du kan mindske dem meget ved at begrænse, hvad agenten må sige, holde kilderne opdaterede og give den en sikker nødløsning, men du bør blive ved med at teste og gennemgå.

Hvorfor svarer agenten på et spørgsmål, jeg aldrig har trænet den i?

Sprogmodeller er bygget til at producere plausibel tekst. Uden en klar instruktion om at holde sig til dine kilder og sige det, når den ikke kan bekræfte noget, kan den improvisere.

Er et forkert hørt ord det samme som en hallucination?

Ikke helt. Et forkert hørt ord er en genkendelsesfejl, men det kan føre til et forkert svar, der ligner en hallucination. Tjek udskriften for at se, hvad der skete.

Hvilke emner er mest risikable?

Priser, ledige tider, medicinsk eller juridisk rådgivning, refusioner og ethvert løfte eller enhver forpligtelse. Giv agenten præcise formuleringer eller en overdragelse til disse.

Hvor ofte skal jeg gennemgå udskrifter?

Dagligt eller med få dages mellemrum ved lanceringen, derefter ugentligt. Gennemgå oftere, når du har ændret prompten eller kilderne.

Forankr din AI-agent i godkendte svar i Call

I demokonsollen kan du afprøve indgående opkald i en simulering.

Relaterede guides