Röst-AI-teknik

RAG för röstagenter: svara utifrån ditt eget innehåll

Så låter RAG en telefon-AI svara utifrån dina dokument och vanliga frågor, med tips om att förbereda innehåll, begränsa fel och testa svar.

Redaktionen för Call · Publicerad · 5 min läsning

En språkmodell vet mycket om världen och ingenting om din verksamhet. Den vet inte dina öppettider, din avbokningspolicy eller namnet på teknikern som hanterar pannreparationer. Om du ber den svara på en uppringares fråga utan den informationen kan den gissa. Retrieval-augmented generation, vanligen förkortat RAG, är standardlösningen: hitta den relevanta delen av ditt eget innehåll, ge den till modellen tillsammans med frågan och be den svara utifrån det materialet.

En person ordnar utskrivna dokument och en laptop för att förbereda en kunskapsbas åt en assistent
Illustrationsbild

Den här guiden förklarar hur RAG fungerar i samband med telefonsamtal, hur du förbereder innehåll för det, var det går fel och hur du testar det. För bakgrund om flödet, se Så fungerar röst-AI: STT, LLM och TTS.

Så fungerar RAG i ett samtal

När en uppringare ställer en fråga gör en röstagent med RAG vanligtvis så här:

Hämtningsvägen

  1. LyssnaTaligenkänning omvandlar uppringarens ord till text.
  2. SökSystemet söker i ditt innehåll efter avsnitt som rör frågan.
  3. VäljDet behåller de få mest relevanta avsnitten och släpper resten.
  4. FormuleraSpråkmodellen skriver ett kort svar med hjälp av frågan och avsnitten.
  5. TalaText-till-tal läser upp svaret.

Varför inte ge modellen allt?

Du kan försöka klistra in allt ditt innehåll i instruktionerna. Men modellens arbetsutrymme är begränsat, långa instruktioner gör svaren långsammare, och en stor hög text gör det lättare för modellen att missa den enda rad som spelar roll. Hämtning håller arbetsmängden liten och relevant.

Vad "sök" betyder

Sökning kan vara nyckelordsbaserad, betydelsebaserad (hittar avsnitt med liknande betydelse även om orden skiljer sig) eller en blandning. Betydelsebaserad sökning hjälper med uppringare som formulerar en fråga på oväntade sätt, som "kan jag komma på söndag?" när ditt innehåll säger "helgtider". Vilken metod som än används är avsnitten små bitar av dina dokument, så sättet du skriver och delar upp innehållet påverkar direkt vad som hittas.

Välja och förbereda innehåll

Kvalitet in, kvalitet ut gäller särskilt här. En röstagent kan bara vara lika noggrann som materialet bakom den.

Vanliga innehållskällor

  • Vanliga frågor och Q&A-parExakta svar på specifika frågor. Den mest pålitliga källan för vanliga samtal.
  • WebbsidorBefintliga sidor om tjänster, tider och riktlinjer, inlästa en gång eller genomsökta över en webbplats.
  • DokumentPDF- och ordbehandlingsfiler med prislistor, menyer eller rutiner, om texten går att markera.
  • Fri textAnteckningar för regler som inte passar någon annanstans, till exempel hur en helgdag ska hanteras.
  • Rättelser från riktiga samtalSvar som en person har rättat efter att ha lyssnat på ett samtal.

Skriv för örat

Innehåll som skrivits för läsning låter ofta konstigt när det talas. Tabeller, långa listor och förkortningar fungerar inte högt. Skriv om viktiga svar i enkla meningar, med ett faktum per mening, och ange hur siffror och tider ska uttalas. Gör varje avsnitt fristående så att det ger mening utan sidan runt omkring.

Ta bort motsägelser

Om en sida säger att ni stänger klockan fem och en annan säger sex kommer agenten att säga en av dem på måfå. Innan du importerar något, hitta gamla sidor, utkast och dubblettfiler och uppdatera eller radera dem. Lägg till datum på riktlinjer så att den nyaste gäller.

Bestäm vad som är förbjudet

Tala om för agenten vad den inte ska besvara: juridiska, medicinska eller ekonomiska råd, allt om en viss persons konto eller ämnen du bara hanterar med människor. Rätt svar är en artig överlämning. Se Skyddsräcken för röst-AI-agenter.

Där RAG går fel

RAG minskar hallucinationer men tar inte bort dem. Typiska misslyckanden är:

Felsätt

Vad som händerÅtgärd
Inget relevant hittasAgenten improviserar utifrån allmän kunskap.Instruera den att säga att den inte vet och erbjuda en person. Lägg till det saknade innehållet.
Fel avsnitt hittasEn liknande riktlinje för en annan tjänst används.Skriv om avsnitt med tydliga rubriker. Håll liknande ämnen åtskilda.
Föråldrat innehållAgenten anger fjolårets tider.Ge varje källa en ansvarig och ett datum för granskning.
För lång hämtningFör mycket text gör svaret långsammare och förvirrar det.Använd kortare, fokuserade avsnitt.
Felhörd frågaFel i taligenkänningen leder till en felaktig sökning.Testa med bullrigt ljud och accenter. Bekräfta viktiga uppgifter.

För en djupare genomgång av hur du förhindrar påhittade svar, läs Förhindra påhittade svar i röst-AI. För att få agenten att slå upp aktuella fakta, som status på en beställning, i stället för statisk text, se Låta en röstagent slå upp saker.

Fördröjningsbudgeten

Telefonsamtal tolererar mycket lite fördröjning. Varje extra steg, som sökning, lägger till tid. Håll källorna välordnade och små, undvik att hämta fler avsnitt än svaret behöver och testa svarstider i riktiga samtal, inte på en laptop. Fördröjning i röst-AI förklarar hur fördröjningar upplevs och var de kommer ifrån.

Håll det aktuellt

Tider, priser och riktlinjer ändras fortare än någon kommer ihåg att redigera kunskapsbasen. Lägg en återkommande påminnelse i en delad kalender: före varje säsong, helgdag eller prisändring granskar innehållsansvarig källorna och indexerar om dem. Efter en ändring, ring agenten själv och fråga om det som ändrats. En kontroll på trettio sekunder förhindrar en dag med felaktiga svar.

Testa före och efter lansering

Gör en lista med frågor i tre grupper: frågor som innehållet besvarar tydligt, frågor det besvarar delvis och frågor det inte täcker. Registrera för var och en vad agenten säger. Kontrollera att det är rätt, tillräckligt kort för att sägas högt, och att agenten för den tredje gruppen erkänner att den inte vet. Kör om listan varje gång innehållet ändras.

En testrutin

  • Ställ varje vanlig fråga med två eller tre olika formuleringar.
  • Ställ samma frågor med en bullrig linje eller en kraftig accent.
  • Fråga efter något som innehållet inte innehåller.
  • Ställ en fråga med en fälla, som ett gammalt pris eller en stängd dag.
  • Lyssna efter svar som är för långa för att följas på gehör.
  • Gå igenom riktiga samtalstranskriptioner varje vecka under första månaden.

Rättelser som håller

När en människa hittar ett felaktigt svar räcker det inte att rätta transkriptionen. Rättelsen ska föras tillbaka in i kunskapsbasen så att agenten svarar rätt nästa gång. Bestäm vem som får göra den ändringen och för en historik över ändringar.

Så gör du i Call

I Call tillhör kunskap en AI-agent och läggs till under Källor:

Lagringen delas över organisationen, med gränser per källa, och bara arbetsytans chefer kan lägga till, ändra eller ta bort källor. En banderoll visar när pågående samtal ännu inte använder kunskapsbasen. I samtalshistoriken kan du rätta ett svar som agenten gav och, om du vill, spara det som rätt svar till nästa gång. Börja med Använda kunskapskällor i Call och Bygga en kunskapsbas för support och AI.

Vanliga frågor

Är RAG detsamma som att träna en modell på mina data?

Nej. Träning ändrar själva modellen. RAG lämnar modellen oförändrad och ger den relevanta avsnitt ur ditt innehåll i samma stund som frågan ställs, vilket är lättare att uppdatera och lättare att kontrollera.

Hindrar RAG en röstagent från att hitta på?

Det minskar problemet men tar inte bort det. Agenten kan ändå läsa fel i ett avsnitt eller besvara en fråga som ditt innehåll inte täcker. Tydliga instruktioner, bra innehåll och regelbunden testning håller felen låga.

Hur mycket innehåll behöver jag?

Mindre än de flesta tror. Några dussin noggranna Q&A-par som täcker dina vanligaste samtal presterar ofta bättre än ett stort obearbetat arkiv. Lägg till mer när riktiga samtal visar luckor.

Kan agenten använda innehåll i PDF-filer?

Oftast, om PDF-filen har markerbar text. Inskannade PDF-filer med bara bilder behöver textigenkänning först. Kontrollera vad systemet extraherade, eftersom tabeller och kolumner kan komma ut rörigt.

Hur ofta bör jag uppdatera kunskapsbasen?

Varje gång fakta ändras, och på ett regelbundet granskningsdatum för allt annat. Ge varje källa en ansvarig så att uppdateringar inte lämnas åt slumpen.

Lägg till kunskapskällor till din AI-agent och kontrollera dess svar i Call

I demokonsolen kan du prova inkommande samtal i en simulering.

Relaterade guider