Spraak-AI-technologie

RAG voor spraakagents: antwoorden uit uw eigen content

Hoe retrieval-augmented generation een telefoon-AI laat antwoorden uit uw documenten en FAQ's, met tips voor content voorbereiden, fouten beperken en testen.

Redactie van Call · Gepubliceerd · 5 min leestijd

Een taalmodel weet veel over de wereld en niets over uw bedrijf. Het kent uw openingstijden niet, uw annuleringsbeleid niet en niet de naam van de monteur die ketelreparaties doet. Vraagt u het een vraag van een beller te beantwoorden zonder die informatie, dan kan het gokken. Retrieval-augmented generation, meestal ingekort tot RAG, is de standaardremedie: zoek het relevante deel van uw eigen content, geef het met de vraag aan het model en vraag het uit dat materiaal te antwoorden.

Iemand rangschikt afgedrukte documenten en een laptop om een kennisbank voor een assistent voor te bereiden
Illustratieve afbeelding

Deze gids legt uit hoe RAG werkt in de context van telefoongesprekken, hoe u content ervoor voorbereidt, waar het misgaat en hoe u het test. Voor achtergrond over de pijplijn, zie Hoe spraak-AI werkt: STT, LLM en TTS.

Hoe RAG in een gesprek werkt

Wanneer een beller een vraag stelt, doet een spraakagent met RAG doorgaans dit:

Het ophaalpad

  1. LuisterenSpraakherkenning zet de woorden van de beller om in tekst.
  2. ZoekenHet systeem zoekt in uw content naar passages die bij de vraag horen.
  3. SelecterenHet houdt de paar meest relevante passages en laat de rest vallen.
  4. OpstellenHet taalmodel schrijft een kort antwoord met de vraag en die passages.
  5. SprekenTekst-naar-spraak leest het antwoord hardop voor.

Waarom het model niet alles geven?

U kunt proberen al uw content in de instructies te plakken. Maar de werkruimte van het model is beperkt, lange instructies vertragen antwoorden en een grote berg tekst maakt het makkelijker voor het model de ene regel te missen die ertoe doet. Ophalen houdt de werkset klein en relevant.

Wat "zoeken" betekent

Zoeken kan op trefwoorden gebaseerd zijn, op betekenis (passages met vergelijkbare betekenis vinden, ook als de woorden verschillen) of een mengvorm. Zoeken op betekenis helpt bij bellers die een vraag onverwacht formuleren, zoals "kan ik zondag komen?" terwijl uw content "weekenduren" zegt. Welke methode ook wordt gebruikt, de passages zijn kleine brokken uit uw documenten, dus de manier waarop u content schrijft en splitst, beïnvloedt direct wat wordt gevonden.

Content kiezen en voorbereiden

Kwaliteit erin, kwaliteit eruit geldt hier bijzonder. Een spraakagent kan alleen zo nauwkeurig zijn als het materiaal erachter.

Veelvoorkomende contentbronnen

  • FAQ en vraag-antwoordparenExacte antwoorden op specifieke vragen; de betrouwbaarste bron voor gangbare gesprekken.
  • Webpagina'sBestaande pagina's over diensten, uren en beleid, eenmalig ingelezen of over een site doorzocht.
  • DocumentenPDF's en tekstverwerkerbestanden met prijslijsten, menu's of procedures, als de tekst selecteerbaar is.
  • Vrije tekstNotities voor regels die nergens anders passen, zoals hoe u met een feestdag omgaat.
  • Correcties uit echte gesprekkenAntwoorden die een persoon verbeterde na het beluisteren van een gesprek.

Schrijf voor het oor

Content voor lezen klinkt vaak vreemd als die wordt uitgesproken. Tabellen, lange lijsten en afkortingen werken niet hardop. Herschrijf belangrijke antwoorden in gewone zinnen, met één feit per zin, en leg vast hoe getallen en tijden moeten worden uitgesproken. Houd elke passage op zichzelf staand, zodat ze begrijpelijk is zonder de pagina eromheen.

Verwijder tegenstrijdigheden

Zegt de ene pagina dat u om vijf uur sluit en een andere om zes, dan zegt de agent er willekeurig een. Zoek voor het importeren oude pagina's, concepten en dubbele bestanden en werk ze bij of verwijder ze. Voeg data toe aan beleid, zodat het nieuwste wint.

Bepaal wat buiten bereik is

Vertel de agent wat hij niet mag beantwoorden: juridisch, medisch of financieel advies, alles over de account van een specifieke persoon of onderwerpen die u alleen door een mens afhandelt. Het juiste antwoord is een beleefde overdracht. Zie Vangrails voor spraak-AI-agents.

Waar RAG misgaat

RAG vermindert hallucinatie maar neemt die niet weg. Typische fouten zijn:

Faalwijzen

Wat er gebeurtOplossing
Niets relevants gevondenDe agent improviseert uit algemene kennis.Instrueer hem te zeggen dat hij het niet weet en een persoon aan te bieden; voeg de ontbrekende content toe.
Verkeerde passage gevondenEen gelijkend beleid voor een andere dienst wordt gebruikt.Herschrijf passages met duidelijke titels; scheid vergelijkbare onderwerpen.
Verouderde contentDe agent noemt de uren van vorig jaar.Geef elke bron een eigenaar en een beoordelingsdatum.
Te lange ophalingTe veel tekst vertraagt het antwoord en verwart het.Gebruik kortere, gerichte passages.
Verkeerd verstane vraagFouten in spraakherkenning leiden tot een verkeerde zoekopdracht.Test met rumoerige audio en accenten; bevestig belangrijke details.

Voor een diepere blik op het voorkomen van verzonnen antwoorden, lees Verzonnen antwoorden in spraak-AI voorkomen. Wilt u dat de agent actuele feiten opzoekt, zoals de status van een bestelling, in plaats van statische tekst, zie dan Een spraakagent dingen laten opzoeken.

Het snelheidsbudget

Telefoongesprekken verdragen heel weinig vertraging. Elke extra stap, zoals zoeken, kost tijd. Houd bronnen netjes en klein, haal niet meer passages op dan het antwoord nodig heeft en test reactietijden op echte gesprekken in plaats van op een laptop. Vertraging bij spraak-AI legt uit hoe vertragingen worden ervaren en waar ze vandaan komen.

Houd het actueel

Uren, prijzen en beleid veranderen sneller dan iemand eraan denkt de kennisbank te bewerken. Zet een terugkerende herinnering in een gedeelde agenda: vóór elk seizoen, elke feestdag of prijswijziging beoordeelt de eigenaar van de content de bronnen en indexeert ze opnieuw. Bel de agent na een wijziging zelf en vraag naar wat veranderde. Een controle van dertig seconden voorkomt een dag aan verkeerde antwoorden.

Test vóór en na de start

Maak een lijst met vragen in drie groepen: vragen die de content duidelijk beantwoordt, vragen die ze gedeeltelijk beantwoordt en vragen die ze niet dekt. Leg voor elke vraag vast wat de agent zegt. Controleer of het juist is, kort genoeg om hardop te zeggen en of hij bij de derde groep toegeeft dat hij het niet weet. Voer de lijst opnieuw uit zodra de content verandert.

Een testroutine

  • Stel elke gangbare vraag in twee of drie verschillende formuleringen.
  • Stel dezelfde vragen met een rumoerige lijn of een sterk accent.
  • Vraag naar iets wat de content niet bevat.
  • Stel een vraag met een valstrik, zoals een oude prijs of een gesloten dag.
  • Luister naar antwoorden die te lang zijn om op het gehoor te volgen.
  • Bekijk de eerste maand wekelijks echte gesprekstranscripties.

Correcties die blijven hangen

Vindt een mens een verkeerd antwoord, dan is de transcriptie herstellen niet genoeg; de correctie moet terug in de kennisbank, zodat de agent de volgende keer juist antwoordt. Bepaal wie die wijziging mag doen en houd een geschiedenis van wijzigingen bij.

Instellen in Call

In Call hoort kennis bij een AI-agent en wordt die toegevoegd onder Bronnen:

Opslag wordt gedeeld binnen de organisatie, met limieten per bron, en alleen beheerders van de werkruimte kunnen bronnen toevoegen, wijzigen of verwijderen. Een banner toont wanneer live gesprekken de kennisbank nog niet gebruiken. In de gespreksgeschiedenis kunt u een antwoord van de agent corrigeren en, als u wilt, opslaan als het juiste antwoord voor de volgende keer. Begin met Kennisbronnen gebruiken in Call en Een kennisbank bouwen voor klantenservice en AI.

Veelgestelde vragen

Is RAG hetzelfde als een model trainen op mijn gegevens?

Nee. Trainen verandert het model zelf. RAG laat het model ongewijzigd en geeft het op het moment van de vraag relevante passages uit uw content, wat makkelijker bij te werken en makkelijker te controleren is.

Voorkomt RAG dat een spraakagent dingen verzint?

Het vermindert het probleem maar neemt het niet weg. De agent kan nog altijd een passage verkeerd lezen of een vraag beantwoorden die uw content niet dekt. Duidelijke instructies, goede content en regelmatig testen houden fouten laag.

Hoeveel content heb ik nodig?

Minder dan de meeste mensen verwachten. Enkele tientallen nauwkeurige vraag-antwoordparen die uw gangbare gesprekken dekken, presteren vaak beter dan een groot onbewerkt archief. Voeg meer toe naarmate echte gesprekken hiaten tonen.

Kan de agent content in PDF's gebruiken?

Meestal wel, als de PDF selecteerbare tekst heeft. Gescande PDF's met alleen afbeeldingen vragen eerst tekstherkenning. Controleer wat het systeem eruit haalde, want tabellen en kolommen kunnen door elkaar komen.

Hoe vaak moet ik de kennisbank bijwerken?

Telkens als feiten veranderen, en op een vaste beoordelingsdatum voor al het andere. Geef elke bron een eigenaar, zodat bijwerken niet aan het toeval wordt overgelaten.

Voeg in Call kennisbronnen toe aan uw AI-agent en controleer zijn antwoorden

In de democonsole probeert u inkomende gesprekken uit in een simulatie.

Gerelateerde gidsen