Röst-AI-teknik

Förhindra påhittade svar från röst-AI i telefonsamtal

Varför röstagenter ibland påstår saker som inte stämmer, och de praktiska steg som begränsar det: förankrade källor, säkra reservsvar, fällfrågor och granskning.

Redaktionen för Call · Publicerad · 5 min läsning

Fråga en röstagent om dina öppettider så svarar den smidigt. Problemet uppstår när den svarar lika smidigt om något den aldrig har fått veta. Det är vad man menar med en hallucination: svar som låter rätt men saknar grund i din information.

En person som lyssnar uppmärksamt i ett telefonsamtal vid sitt skrivbord
Illustrationsbild

På en telefonlinje är risken större än i ett chattfönster. Kunden hör en självsäker mening och ingen länk, ingen källa och inget enkelt sätt att gå tillbaka. Den här guiden förklarar varför hallucinationer uppstår, hur du minskar dem och hur du kontrollerar att dina åtgärder fungerar.

Vad en hallucination är, och varför den uppstår

En språkmodell producerar den mest sannolika fortsättningen på ett samtal. Den har tränats på enorma mängder text och har ingen inbyggd känsla för vilka påståenden som stämmer för just ditt företag. När svaret saknas i prompten eller källorna kan modellen fylla luckan med något som verkar rimligt.

Typiska orsaker hos en telefonagent

  • Information som saknasKunden frågar om något som ingen har skrivit ner, så modellen improviserar.
  • Inaktuell informationEtt gammalt pris eller en gammal öppettid finns kvar i en källa.
  • Tvetydiga källorTvå dokument säger olika saker och agenten väljer ett av dem.
  • Press att vara hjälpsamEn prompt som säger svara alltid uppmuntrar till gissningar.
  • Fel i taligenkänningenEtt felhört ord ändrar frågan, så agenten besvarar en annan fråga.

Den sista orsaken är lätt att förbise. Om transkriberingen säger tisdag när kunden sa torsdag kan svaret vara helt korrekt för fel fråga. Se Taligenkänning i telefonsamtal för hur igenkänningsfel uppstår.

Hur det ser ut i praktiken

En påhittad tandläkarklinik kan ha berättat för sin agent om öppettider och vilka tjänster den erbjuder. En kund frågar om kliniken tar emot en viss försäkring. Utan information om det kan en slarvigt inställd agent svara ja, eftersom många kliniker gör det. Kunden kommer dit i tron att kostnaden täcks och blir missnöjd. Lösningen är inte en smartare modell utan en tydlig instruktion och en källa som säger vad agenten ska göra när svaret är okänt.

Vanliga högriskämnen är priser, tillgänglighet, juridiska eller medicinska råd, löften om återbetalning och allt som låter som ett åtagande. Markera dem som områden där agenten inte får improvisera.

Varför rösten gör det värre

Ett skrivet chattbotsvar kan innehålla en länk, en ansvarsfriskrivning eller en synlig lista med källor. Tal innehåller inget av detta. Syntetiska röster är dessutom jämna och stadiga, så en gissning låter exakt som ett faktum; det finns ingen tvekan som varnar kunden. Kunder agerar ofta direkt på det de hör, genom att köra någonstans, avboka något eller betala något.

Därför bör utformningen av telefonagenter luta åt återhållsamhet. Ett kort, ärligt svar som hänvisar till en människa kostar några sekunder. Ett självsäkert felaktigt svar kan kosta en kund. När du bestämmer hur strikt du ska vara, tänk på den värsta rimliga följden av ett felaktigt svar inom varje ämne och sätt regeln därefter: avslappnad för öppettider, strikt för allt som rör pengar, hälsa eller juridiska rättigheter.

Så minskar du påhittade svar

Ett skiktat arbetssätt

  1. Förankra agentenGe den godkända fakta och säg åt den att bara svara utifrån dem.
  2. Definiera det okändaSkriv vad den ska säga när den saknar ett svar.
  3. Begränsa åtagandenFörbjud löften den inte kan hålla, som rabatter eller bekräftade bokningar.
  4. Erbjud en vägGe alltid en människa, ett meddelande eller en återuppringning som nästa steg.
  5. Testa och granskaProva frågor utanför källorna och läs verkliga transkriberingar.

Förankra den i godkända källor

Informationshämtning (retrieval) innebär att relevanta stycken ur dina dokument slås upp i samma ögonblick som frågan ställs och att bara de ges till modellen. Det håller svaren knutna till text som du har skrivit. Informationshämtning för röstagenter förklarar idén, och Kunskapskällor i Call visar hur det ser ut i produkten.

Skriv korta, entydiga fakta

En uppgift per post, med villkoret inkluderat, fungerar bättre än en lång broschyr. I stället för Vi har öppet på helger, skriv lördag 9 till 13, stängt på söndag. Om ett ämne har undantag, ange dem i samma post.

Använd exakta svar på nyckelfrågor

För frågor där formuleringen spelar roll, som avbokningsregler, ge agenten det exakta svaret att läsa upp. I Call kan du lägga till en fråga och det exakta svar agenten ska ge, så att den inte behöver omformulera.

Lär den att säga jag vet inte

Ett ärligt Det kan jag inte bekräfta i det här samtalet, men jag kan ta dina uppgifter så hör någon av sig till dig är mycket bättre än en gissning. I Call är agenten byggd för att säga rakt ut att den inte kan bekräfta något när inget i dess instruktioner eller källor besvarar frågan, och för att erbjuda en människa där linjen kan koppla vidare. Den hittar heller aldrig på priser, öppettider, datum eller andra uppgifter som dina instruktioner och källor inte anger, och dina instruktioner kan inte stänga av de här reglerna.

Förankrade jämfört med oförankrade svar

Samma fråga, två upplägg

Oförankrad agentFörankrad agent
Källa till svaretAllmän kunskap och rimliga gissningarBara dina godkända fakta
När information saknasHittar på något som låter braSäger att den inte kan bekräfta och erbjuder ett nästa steg
Risk för kundenKan agera på felaktiga uppgifterVet vad som är osäkert
UnderhållLätt att börja, svårt att lita påKräver att källorna hålls aktuella

Testa medvetet efter hallucinationer

Vänta inte på att en kund ska hitta luckorna. Bygg en liten uppsättning fällfrågor och kör dem varje gång du ändrar prompten eller källorna.

En testuppsättning för hallucinationer

  • Fråga om en tjänst som du inte erbjuder
  • Fråga efter ett pris som inte finns i källorna
  • Fråga om ett undantag från en regel som ingen har skrivit ner
  • Fråga om ett datum långt fram i tiden
  • Ställ en fråga med en annan formulering än dina skrivna svar
  • Fråga om något som låter likt ett ämne som finns med
  • Kontrollera att varje okänd fråga slutar med ett säkert nästa steg

Upprepa uppsättningen efter ändringar, och lägg till varje verkligt misslyckande du hittar. Den bredare testprocessen beskrivs i Testa en röst-AI-agent.

Fortsätt bevaka efter lanseringen

Att hålla hallucinationer i schack är inte en engångsuppgift. Information ändras, nya frågor dyker upp och prompter glider iväg när folk redigerar dem. Inför en rutin: läs ett urval av transkriberingar varje vecka, sök efter fraser som tyder på osäkerhet och uppdatera källorna. I Call kan du öppna hela samtalet för vilket samtal som helst, söka efter en fras i alla sparade transkriberingar och se historiken över rättelser av agentens formuleringar. Kom ihåg att transkriberingar sparas under en begränsad tid, så gå igenom dem i god tid.

Tillämpa detta i Call

Börja med att skriva dina vanligaste frågor som exakta fråga-och-svar-par, lägg till korta faktakällor för allt annat och koppla agenten till en linje först efter att du har testat. Om du vill ha hjälp att skriva prompter som motverkar gissningar, läs Skriva promptar för en LLM-telefonagent. De skyddsräcken som hör ihop med det här arbetet beskrivs i Skyddsräcken för röst-AI-agenter.

Vanliga frågor

Vad är en hallucination i röst-AI?

Det är ett svar som låter självsäkert men inte stöds av din information, till exempel ett påhittat pris eller en påhittad regel. Det händer när modellen fyller en lucka i stället för att medge att den inte vet.

Kan hallucinationer elimineras helt?

Inget verktyg kan lova det. Du kan minska dem kraftigt genom att begränsa vad agenten får säga, hålla källorna aktuella och ge den ett säkert reservsvar, men du bör fortsätta att testa och granska.

Varför svarar agenten på en fråga som jag aldrig har lärt den?

Språkmodeller är byggda för att producera rimlig text. Utan en tydlig instruktion om att hålla sig till dina källor och säga när den inte kan bekräfta något kan den improvisera.

Är ett felhört ord samma sak som en hallucination?

Inte riktigt. Ett felhört ord är ett igenkänningsfel, men det kan leda till ett felaktigt svar som ser ut som en hallucination. Kontrollera transkriberingen för att se vad som hände.

Vilka ämnen är mest riskfyllda?

Priser, tillgänglighet, medicinska eller juridiska råd, återbetalningar och alla löften eller åtaganden. Ge agenten exakta formuleringar eller en överlämning för dessa.

Hur ofta ska jag gå igenom transkriberingar?

Dagligen eller med några dagars mellanrum vid lanseringen, sedan varje vecka. Gå igenom dem oftare efter att du har ändrat prompten eller källorna.

Förankra din AI-agent i godkända svar i Call

I demokonsolen kan du prova inkommande samtal i en simulering.

Relaterade guider