RAG til stemmeagenter: svar ud fra dit eget indhold
Hvordan retrieval-augmented generation lader en telefon-AI svare ud fra dine dokumenter og FAQ'er, med tips til at forberede indhold, begrænse fejl og teste svar.
En sprogmodel ved meget om verden og intet om din virksomhed. Den kender ikke dine åbningstider, din afbestillingspolitik eller navnet på den tekniker, der håndterer kedelreparationer. Hvis du beder den besvare en opkalders spørgsmål uden de oplysninger, kan den gætte. Retrieval-augmented generation, som oftest forkortes RAG, er den gængse løsning: find den relevante del af dit eget indhold, giv den til modellen sammen med spørgsmålet, og bed den svare ud fra det materiale.

Denne guide forklarer, hvordan RAG fungerer i sammenhæng med telefonopkald, hvordan du forbereder indhold til det, hvor det går galt, og hvordan du tester det. For baggrund om forløbet, se Sådan fungerer stemme-AI: STT, LLM og TTS.
Sådan virker RAG i et opkald
Når en opkalder stiller et spørgsmål, gør en stemmeagent med RAG typisk dette:
Opslagsvejen
- LytTalegenkendelse omsætter opkalderens ord til tekst.
- SøgSystemet søger i dit indhold efter passager, der er relateret til spørgsmålet.
- VælgDet beholder de få mest relevante passager og dropper resten.
- FormulérSprogmodellen skriver et kort svar ud fra spørgsmålet og passagerne.
- TalTekst-til-tale læser svaret op.
Hvorfor ikke give modellen alt?
Du kunne prøve at indsætte alt dit indhold i instruktionerne. Men modellens arbejdsplads er begrænset, lange instruktioner gør svarene langsommere, og en stor bunke tekst gør det lettere for modellen at overse den ene linje, der betyder noget. Opslag holder arbejdssættet småt og relevant.
Hvad "søgning" betyder
Søgning kan være nøgleordsbaseret, meningsbaseret (finde passager med lignende betydning, selv om ordene er forskellige) eller en blanding. Meningsbaseret søgning hjælper ved opkaldere, der formulerer et spørgsmål uventet, fx "kan jeg komme om søndagen?", når dit indhold siger "weekendtider". Uanset metode er passagerne små stykker af dine dokumenter, så måden, du skriver og opdeler indhold på, påvirker direkte, hvad der bliver fundet.
Valg og forberedelse af indhold
Skidt ind, skidt ud gælder især her. En stemmeagent kan kun være lige så præcis som det materiale, der ligger bag.
Almindelige indholdskilder
- FAQ og spørgsmål-og-svar-parPræcise svar på specifikke spørgsmål; den mest pålidelige kilde til almindelige opkald.
- WebsiderEksisterende sider om ydelser, åbningstider og politikker, indlæst én gang eller gennemsøgt på tværs af et site.
- DokumenterPDF'er og tekstbehandlingsfiler med prislister, menuer eller procedurer, hvis teksten kan markeres.
- Fri tekstNoter til regler, der ikke passer andre steder, fx hvordan man håndterer en helligdag.
- Rettelser fra rigtige opkaldSvar rettet af en person efter at have lyttet til et opkald.
Skriv til øret
Indhold skrevet til at blive læst lyder ofte mærkeligt, når det siges. Tabeller, lange lister og forkortelser virker ikke højt. Omskriv vigtige svar i almindelige sætninger, med ét faktum pr. sætning, og skriv ud, hvordan tal og klokkeslæt skal siges. Hold hver passage selvstændig, så den giver mening uden den side, der omgiver den.
Fjern modsigelser
Hvis én side siger, at I lukker klokken fem, og en anden siger seks, vil agenten sige den ene af dem tilfældigt. Før du importerer noget, så find gamle sider, udkast og dubletfiler, og opdatér eller slet dem. Sæt datoer på politikker, så den nyeste vinder.
Beslut, hvad der er forbudt område
Fortæl agenten, hvad den ikke skal besvare: juridisk, lægelig eller økonomisk rådgivning, alt om en bestemt persons konto eller emner, du kun håndterer med mennesker. Det rette svar er en høflig overdragelse. Se Rammer for AI-stemmeagenter.
Hvor RAG går galt
RAG mindsker hallucinationer, men fjerner dem ikke. Typiske fejl er:
Fejltyper
| Hvad der sker | Løsning | |
|---|---|---|
| Intet relevant fundet | Agenten improviserer ud fra almen viden. | Instruér den i at sige, at den ikke ved det, og tilbyde en person; tilføj det manglende indhold. |
| Forkert passage fundet | En politik, der lyder ens, for en anden ydelse bruges. | Omskriv passager med tydelige titler; adskil lignende emner. |
| Forældet indhold | Agenten oplyser sidste års åbningstider. | Giv hver kilde en ejer og en gennemgangsdato. |
| For lang opslagstekst | For meget tekst gør svaret langsomt og forvirrer det. | Brug kortere, fokuserede passager. |
| Misforstået spørgsmål | Fejl i talegenkendelsen fører til en forkert søgning. | Test med støjende lyd og accenter; bekræft vigtige detaljer. |
For et dybere kig på at forhindre opfundne svar, læs Forebyg opfundne svar i stemme-AI. For at få agenten til at slå levende fakta op, fx status på en ordre, frem for statisk tekst, se Lad en stemmeagent slå ting op.
Hastighedsbudgettet
Telefonsamtaler tåler meget lidt forsinkelse. Hvert ekstra trin, fx søgning, lægger tid til. Hold kilder ryddelige og små, undgå at hente flere passager, end svaret behøver, og test svartider på rigtige opkald frem for på en bærbar. Latens i stemme-AI forklarer, hvordan forsinkelser mærkes, og hvor de kommer fra.
Hold det ajourført
Åbningstider, priser og politikker ændrer sig hurtigere, end nogen husker at redigere vidensbasen. Sæt en tilbagevendende påmindelse i en fælles kalender: før hver sæson, helligdag eller prisændring gennemgår indholdsejeren kilderne og indekserer dem igen. Efter en ændring skal du selv ringe til agenten og spørge til det, der er ændret. Et tjek på tredive sekunder forhindrer en dag med forkerte svar.
Test før og efter lancering
Lav en liste over spørgsmål i tre grupper: spørgsmål, indholdet besvarer klart, spørgsmål, det besvarer delvist, og spørgsmål, det ikke dækker. For hvert skal du registrere, hvad agenten siger. Tjek, at det er korrekt, kort nok til at blive sagt højt, og at agenten for den tredje gruppe indrømmer, at den ikke ved det. Kør listen igen, hver gang indholdet ændres.
En testrutine
- Stil hvert almindeligt spørgsmål med to eller tre forskellige formuleringer.
- Stil de samme spørgsmål med en støjende linje eller en kraftig accent.
- Spørg om noget, indholdet ikke indeholder.
- Stil et spørgsmål med en fælde, fx en gammel pris eller en lukket dag.
- Lyt efter svar, der er for lange at følge med ørerne.
- Gennemgå rigtige opkaldsudskrifter ugentligt i den første måned.
Rettelser, der holder
Når et menneske finder et forkert svar, er det ikke nok at rette udskriften; rettelsen bør gå tilbage i vidensbasen, så agenten svarer rigtigt næste gang. Beslut, hvem der må foretage den ændring, og før en historik over ændringer.
Sådan gør du i Call
I Call tilhører viden en AI-agent og tilføjes under Kilder:
- Spørgsmål og svar. Tilføj et spørgsmål og dets præcise svar, og brug "tjek et spørgsmål" til at se, hvad vidensbasen finder for det.
- Website. Læs én side, et helt site eller udvalgte sider; sider, som et sites robots.txt beder crawlere om ikke at læse, udelades.
- Filer. Upload PDF-, Word-, tekst-, markdown-, CSV- eller JSON-filer. En PDF skal have tekst, der kan markeres; PDF'er med kun billeder kræver først tekstgenkendelse.
- Tekst. Tilføj noter i fri tekst.
- Indekser igen. Genopbyg agentens søgning efter mange ændringer.
Lagerpladsen deles på tværs af organisationen, med grænser pr. kilde, og kun arbejdsområdets ledere kan tilføje, ændre eller slette kilder. Et banner viser, når live opkald endnu ikke bruger vidensbasen. I opkaldshistorikken kan du rette et svar, agenten gav, og om du vil gemme det som det rigtige svar til næste gang. Start med Brug af videnkilder i Call og Opbygning af en videnbase til support og AI.
Ofte stillede spørgsmål
Er RAG det samme som at træne en model på mine data?
Nej. Træning ændrer selve modellen. RAG lader modellen være uændret og giver den relevante passager fra dit indhold i det øjeblik, spørgsmålet stilles, hvilket er lettere at opdatere og lettere at kontrollere.
Forhindrer RAG en stemmeagent i at finde på ting?
Det mindsker problemet, men fjerner det ikke. Agenten kan stadig misforstå en passage eller besvare et spørgsmål, dit indhold ikke dækker. Klare instruktioner, godt indhold og regelmæssig test holder fejlene nede.
Hvor meget indhold har jeg brug for?
Mindre, end de fleste tror. Nogle dusin præcise spørgsmål-og-svar-par, der dækker dine mest almindelige opkald, slår ofte et stort uredigeret arkiv. Tilføj mere, når rigtige opkald viser huller.
Kan agenten bruge indhold i PDF'er?
Som regel, hvis PDF'en har tekst, der kan markeres. Scannede PDF'er med kun billeder kræver først tekstgenkendelse. Tjek, hvad systemet udtrak, for tabeller og kolonner kan komme rodet ud.
Hvor ofte bør jeg opdatere vidensbasen?
Når fakta ændrer sig, og på en fast gennemgangsdato for alt andet. Giv hver kilde en ejer, så opdateringer ikke overlades til tilfældighederne.