RAG för röstagenter: svara utifrån ditt eget innehåll
Så låter RAG en telefon-AI svara utifrån dina dokument och vanliga frågor, med tips om att förbereda innehåll, begränsa fel och testa svar.
En språkmodell vet mycket om världen och ingenting om din verksamhet. Den vet inte dina öppettider, din avbokningspolicy eller namnet på teknikern som hanterar pannreparationer. Om du ber den svara på en uppringares fråga utan den informationen kan den gissa. Retrieval-augmented generation, vanligen förkortat RAG, är standardlösningen: hitta den relevanta delen av ditt eget innehåll, ge den till modellen tillsammans med frågan och be den svara utifrån det materialet.

Den här guiden förklarar hur RAG fungerar i samband med telefonsamtal, hur du förbereder innehåll för det, var det går fel och hur du testar det. För bakgrund om flödet, se Så fungerar röst-AI: STT, LLM och TTS.
Så fungerar RAG i ett samtal
När en uppringare ställer en fråga gör en röstagent med RAG vanligtvis så här:
Hämtningsvägen
- LyssnaTaligenkänning omvandlar uppringarens ord till text.
- SökSystemet söker i ditt innehåll efter avsnitt som rör frågan.
- VäljDet behåller de få mest relevanta avsnitten och släpper resten.
- FormuleraSpråkmodellen skriver ett kort svar med hjälp av frågan och avsnitten.
- TalaText-till-tal läser upp svaret.
Varför inte ge modellen allt?
Du kan försöka klistra in allt ditt innehåll i instruktionerna. Men modellens arbetsutrymme är begränsat, långa instruktioner gör svaren långsammare, och en stor hög text gör det lättare för modellen att missa den enda rad som spelar roll. Hämtning håller arbetsmängden liten och relevant.
Vad "sök" betyder
Sökning kan vara nyckelordsbaserad, betydelsebaserad (hittar avsnitt med liknande betydelse även om orden skiljer sig) eller en blandning. Betydelsebaserad sökning hjälper med uppringare som formulerar en fråga på oväntade sätt, som "kan jag komma på söndag?" när ditt innehåll säger "helgtider". Vilken metod som än används är avsnitten små bitar av dina dokument, så sättet du skriver och delar upp innehållet påverkar direkt vad som hittas.
Välja och förbereda innehåll
Kvalitet in, kvalitet ut gäller särskilt här. En röstagent kan bara vara lika noggrann som materialet bakom den.
Vanliga innehållskällor
- Vanliga frågor och Q&A-parExakta svar på specifika frågor. Den mest pålitliga källan för vanliga samtal.
- WebbsidorBefintliga sidor om tjänster, tider och riktlinjer, inlästa en gång eller genomsökta över en webbplats.
- DokumentPDF- och ordbehandlingsfiler med prislistor, menyer eller rutiner, om texten går att markera.
- Fri textAnteckningar för regler som inte passar någon annanstans, till exempel hur en helgdag ska hanteras.
- Rättelser från riktiga samtalSvar som en person har rättat efter att ha lyssnat på ett samtal.
Skriv för örat
Innehåll som skrivits för läsning låter ofta konstigt när det talas. Tabeller, långa listor och förkortningar fungerar inte högt. Skriv om viktiga svar i enkla meningar, med ett faktum per mening, och ange hur siffror och tider ska uttalas. Gör varje avsnitt fristående så att det ger mening utan sidan runt omkring.
Ta bort motsägelser
Om en sida säger att ni stänger klockan fem och en annan säger sex kommer agenten att säga en av dem på måfå. Innan du importerar något, hitta gamla sidor, utkast och dubblettfiler och uppdatera eller radera dem. Lägg till datum på riktlinjer så att den nyaste gäller.
Bestäm vad som är förbjudet
Tala om för agenten vad den inte ska besvara: juridiska, medicinska eller ekonomiska råd, allt om en viss persons konto eller ämnen du bara hanterar med människor. Rätt svar är en artig överlämning. Se Skyddsräcken för röst-AI-agenter.
Där RAG går fel
RAG minskar hallucinationer men tar inte bort dem. Typiska misslyckanden är:
Felsätt
| Vad som händer | Åtgärd | |
|---|---|---|
| Inget relevant hittas | Agenten improviserar utifrån allmän kunskap. | Instruera den att säga att den inte vet och erbjuda en person. Lägg till det saknade innehållet. |
| Fel avsnitt hittas | En liknande riktlinje för en annan tjänst används. | Skriv om avsnitt med tydliga rubriker. Håll liknande ämnen åtskilda. |
| Föråldrat innehåll | Agenten anger fjolårets tider. | Ge varje källa en ansvarig och ett datum för granskning. |
| För lång hämtning | För mycket text gör svaret långsammare och förvirrar det. | Använd kortare, fokuserade avsnitt. |
| Felhörd fråga | Fel i taligenkänningen leder till en felaktig sökning. | Testa med bullrigt ljud och accenter. Bekräfta viktiga uppgifter. |
För en djupare genomgång av hur du förhindrar påhittade svar, läs Förhindra påhittade svar i röst-AI. För att få agenten att slå upp aktuella fakta, som status på en beställning, i stället för statisk text, se Låta en röstagent slå upp saker.
Fördröjningsbudgeten
Telefonsamtal tolererar mycket lite fördröjning. Varje extra steg, som sökning, lägger till tid. Håll källorna välordnade och små, undvik att hämta fler avsnitt än svaret behöver och testa svarstider i riktiga samtal, inte på en laptop. Fördröjning i röst-AI förklarar hur fördröjningar upplevs och var de kommer ifrån.
Håll det aktuellt
Tider, priser och riktlinjer ändras fortare än någon kommer ihåg att redigera kunskapsbasen. Lägg en återkommande påminnelse i en delad kalender: före varje säsong, helgdag eller prisändring granskar innehållsansvarig källorna och indexerar om dem. Efter en ändring, ring agenten själv och fråga om det som ändrats. En kontroll på trettio sekunder förhindrar en dag med felaktiga svar.
Testa före och efter lansering
Gör en lista med frågor i tre grupper: frågor som innehållet besvarar tydligt, frågor det besvarar delvis och frågor det inte täcker. Registrera för var och en vad agenten säger. Kontrollera att det är rätt, tillräckligt kort för att sägas högt, och att agenten för den tredje gruppen erkänner att den inte vet. Kör om listan varje gång innehållet ändras.
En testrutin
- Ställ varje vanlig fråga med två eller tre olika formuleringar.
- Ställ samma frågor med en bullrig linje eller en kraftig accent.
- Fråga efter något som innehållet inte innehåller.
- Ställ en fråga med en fälla, som ett gammalt pris eller en stängd dag.
- Lyssna efter svar som är för långa för att följas på gehör.
- Gå igenom riktiga samtalstranskriptioner varje vecka under första månaden.
Rättelser som håller
När en människa hittar ett felaktigt svar räcker det inte att rätta transkriptionen. Rättelsen ska föras tillbaka in i kunskapsbasen så att agenten svarar rätt nästa gång. Bestäm vem som får göra den ändringen och för en historik över ändringar.
Så gör du i Call
I Call tillhör kunskap en AI-agent och läggs till under Källor:
- Q&A. Lägg till en fråga och dess exakta svar, och använd "kontrollera en fråga" för att se vad kunskapsbasen hittar för den.
- Webbplats. Läs en sida, en hel webbplats eller utvalda sidor. Sidor som en webbplats robots.txt ber sökrobotar att inte läsa utelämnas.
- Filer. Ladda upp PDF-, Word-, text-, markdown-, CSV- eller JSON-filer. En PDF måste ha markerbar text. PDF-filer med bara bilder behöver textigenkänning först.
- Text. Lägg till anteckningar i fri text.
- Indexera om. Bygg om agentens sökning efter många ändringar.
Lagringen delas över organisationen, med gränser per källa, och bara arbetsytans chefer kan lägga till, ändra eller ta bort källor. En banderoll visar när pågående samtal ännu inte använder kunskapsbasen. I samtalshistoriken kan du rätta ett svar som agenten gav och, om du vill, spara det som rätt svar till nästa gång. Börja med Använda kunskapskällor i Call och Bygga en kunskapsbas för support och AI.
Vanliga frågor
Är RAG detsamma som att träna en modell på mina data?
Nej. Träning ändrar själva modellen. RAG lämnar modellen oförändrad och ger den relevanta avsnitt ur ditt innehåll i samma stund som frågan ställs, vilket är lättare att uppdatera och lättare att kontrollera.
Hindrar RAG en röstagent från att hitta på?
Det minskar problemet men tar inte bort det. Agenten kan ändå läsa fel i ett avsnitt eller besvara en fråga som ditt innehåll inte täcker. Tydliga instruktioner, bra innehåll och regelbunden testning håller felen låga.
Hur mycket innehåll behöver jag?
Mindre än de flesta tror. Några dussin noggranna Q&A-par som täcker dina vanligaste samtal presterar ofta bättre än ett stort obearbetat arkiv. Lägg till mer när riktiga samtal visar luckor.
Kan agenten använda innehåll i PDF-filer?
Oftast, om PDF-filen har markerbar text. Inskannade PDF-filer med bara bilder behöver textigenkänning först. Kontrollera vad systemet extraherade, eftersom tabeller och kolumner kan komma ut rörigt.
Hur ofta bör jag uppdatera kunskapsbasen?
Varje gång fakta ändras, och på ett regelbundet granskningsdatum för allt annat. Ge varje källa en ansvarig så att uppdateringar inte lämnas åt slumpen.