RAG za glasovne agente: odgovaranje iz vlastitog sadržaja
Kako RAG omogućuje telefonskom AI-ju odgovaranje iz vaših dokumenata i čestih pitanja, uz savjete za pripremu sadržaja, ograničavanje pogrešaka i testiranje.
Jezični model zna mnogo o svijetu, a ništa o vašem poslovanju. Ne zna vaše radno vrijeme, vaša pravila otkazivanja niti ime tehničara koji obavlja popravke bojlera. Ako ga zamolite da odgovori na pitanje pozivatelja bez tih informacija, mogao bi pogađati. Generiranje potpomognuto dohvaćanjem, obično skraćeno RAG, standardni je lijek: pronađite relevantan dio vašeg sadržaja, predajte ga modelu uz pitanje i zatražite da odgovori iz tog materijala.

Ovaj vodič objašnjava kako RAG radi u kontekstu telefonskih poziva, kako pripremiti sadržaj za njega, gdje griješi i kako ga testirati. Za pozadinu o cjevovodu pogledajte Kako radi glasovni AI: STT, LLM i TTS.
Kako RAG radi u pozivu
Kad pozivatelj postavi pitanje, glasovni agent koji radi s RAG-om obično čini ovo:
Put dohvaćanja
- SlušaPrepoznavanje govora pretvara pozivateljeve riječi u tekst.
- TražiSustav pretražuje vaš sadržaj za odlomke povezane s pitanjem.
- BiraZadržava nekoliko najrelevantnijih odlomaka, a ostale odbacuje.
- SastavljaJezični model piše kratak odgovor koristeći pitanje i te odlomke.
- GovoriPretvaranje teksta u govor čita odgovor naglas.
Zašto modelu ne dati sve?
Mogli biste pokušati zalijepiti sav sadržaj u upute. Ali radni prostor modela je ograničen, duge upute usporavaju odgovore, a velika hrpa teksta olakšava modelu da propusti jedini redak koji je važan. Dohvaćanje drži radni skup malim i relevantnim.
Što znači „pretraživanje”
Pretraživanje može biti temeljeno na ključnim riječima, na značenju (pronalaženje odlomaka sličnog značenja čak i kad se riječi razlikuju) ili mješavina. Pretraživanje prema značenju pomaže kod pozivatelja koji pitanje formuliraju neočekivano, primjerice „mogu li doći u nedjelju?” kad vaš sadržaj kaže „vikend radno vrijeme”. Koja god metoda bila, odlomci su mali dijelovi vaših dokumenata, pa način na koji pišete i dijelite sadržaj izravno utječe na ono što se pronađe.
Odabir i priprema sadržaja
Kvaliteta na ulazu, kvaliteta na izlazu ovdje osobito vrijedi. Glasovni agent može biti točan samo koliko i materijal iza njega.
Uobičajeni izvori sadržaja
- Česta pitanja i parovi pitanje-odgovorTočni odgovori na konkretna pitanja; najpouzdaniji izvor za česte pozive.
- Web-stranicePostojeće stranice o uslugama, radnom vremenu i pravilima, učitane jednom ili pretražene preko cijele stranice.
- DokumentiPDF-ovi i datoteke obrađivača teksta s cjenicima, jelovnicima ili postupcima, ako se tekst može označiti.
- Slobodan tekstBilješke za pravila koja ne pristaju nigdje drugdje, poput postupanja na blagdan.
- Ispravci iz stvarnih pozivaOdgovori koje je osoba popravila nakon slušanja poziva.
Pišite za uho
Sadržaj napisan za čitanje često zvuči neobično kad se izgovori. Tablice, dugi popisi i kratice ne rade naglas. Prepišite ključne odgovore jednostavnim rečenicama, s jednom činjenicom po rečenici, i opišite kako se brojevi i vremena trebaju izgovarati. Neka svaki odlomak bude samostalan da ima smisla bez stranice oko sebe.
Uklonite proturječja
Ako jedna stranica kaže da zatvarate u pet, a druga u šest, agent će reći jedno od toga nasumično. Prije uvoza bilo čega pronađite stare stranice, nacrte i duplicirane datoteke te ih ažurirajte ili obrišite. Dodajte datume pravilima kako bi pobijedilo najnovije.
Odlučite što je izvan granica
Recite agentu na što ne smije odgovarati: pravni, medicinski ili financijski savjeti, sve o računu određene osobe ili teme koje rješavate isključivo ljudski. Pravi odgovor je pristojna predaja. Pogledajte Zaštitne ograde za glasovne AI agente.
Gdje RAG griješi
RAG smanjuje halucinacije, ali ih ne uklanja. Tipični propusti su:
Načini kvara
| Što se događa | Lijek | |
|---|---|---|
| Ništa relevantno nije pronađeno | Agent improvizira iz općeg znanja. | Uputite ga da kaže da ne zna i ponudi osobu; dodajte sadržaj koji nedostaje. |
| Pronađen pogrešan odlomak | Koristi se slično zvučeće pravilo za drugu uslugu. | Prepišite odlomke s jasnim naslovima; odvojite slične teme. |
| Zastarjeli sadržaj | Agent navodi prošlogodišnje radno vrijeme. | Dajte svakom izvoru vlasnika i datum pregleda. |
| Predugo dohvaćanje | Previše teksta usporava odgovor i zbunjuje ga. | Koristite kraće, usredotočene odlomke. |
| Krivo čuto pitanje | Pogreške prepoznavanja govora dovode do pogrešnog pretraživanja. | Testirajte s bučnim zvukom i naglascima; potvrdite važne pojedinosti. |
Za dublji pogled na sprječavanje izmišljenih odgovora pročitajte Sprječavanje izmišljenih odgovora u glasovnom AI-ju. Da bi agent tražio činjenice uživo, poput statusa narudžbe, umjesto statičkog teksta, pogledajte Omogućavanje glasovnom agentu da traži informacije.
Proračun brzine
Telefonski razgovori toleriraju vrlo malo kašnjenja. Svaki dodatni korak, poput pretraživanja, dodaje vrijeme. Držite izvore urednima i malima, izbjegavajte dohvaćanje više odlomaka nego što odgovor treba i testirajte vremena odgovora na stvarnim pozivima, a ne na prijenosnom računalu. Kašnjenje glasovnog AI-ja objašnjava kako se kašnjenja osjećaju i odakle dolaze.
Održavajte ažurnost
Radno vrijeme, cijene i pravila mijenjaju se brže nego što itko stigne urediti bazu znanja. Stavite ponavljajući podsjetnik u zajednički kalendar: prije svake sezone, blagdana ili promjene cijena vlasnik sadržaja pregleda izvore i ponovno ih indeksira. Nakon promjene sami nazovite agenta i pitajte o onome što se promijenilo. Provjera od trideset sekundi sprječava dan pogrešnih odgovora.
Testirajte prije i poslije pokretanja
Napravite popis pitanja u tri skupine: pitanja na koja sadržaj jasno odgovara, pitanja na koja odgovara djelomično i pitanja koja ne pokriva. Za svako zabilježite što agent kaže. Provjerite je li točno, dovoljno kratko za izgovor i, za treću skupinu, priznaje li da ne zna. Ponovno pokrenite popis kad god se sadržaj promijeni.
Rutina testiranja
- Postavite svako uobičajeno pitanje u dvije ili tri različite formulacije.
- Postavite ista pitanja s bučnom linijom ili jakim naglaskom.
- Pitajte za nešto što sadržaj ne sadrži.
- Postavite pitanje sa zamkom, poput stare cijene ili zatvorenog dana.
- Slušajte odgovore koji su predugi da bi ih se pratilo sluhom.
- Prvi mjesec svaki tjedan pregledajte transkripte stvarnih poziva.
Ispravci koji se drže
Kad čovjek pronađe pogrešan odgovor, ispravak transkripta nije dovoljan; ispravak se treba vratiti u bazu znanja kako bi agent sljedeći put odgovorio točno. Odlučite tko smije napraviti tu promjenu i vodite povijest promjena.
Kako to učiniti u servisu Call
U servisu Call znanje pripada AI agentu i dodaje se pod Izvori:
- Pitanja i odgovori. Dodajte pitanje i njegov točan odgovor te koristite „provjeri pitanje” da vidite što baza znanja za njega nalazi.
- Web-stranica. Pročitajte jednu stranicu, cijelu stranicu ili odabrane stranice; stranice koje robots.txt stranice traži da ih pretraživači ne čitaju izostavljaju se.
- Datoteke. Učitajte PDF, Word, tekstualne, markdown, CSV ili JSON datoteke. PDF mora imati tekst koji se može označiti; PDF-ovi samo sa slikom trebaju prvo prepoznavanje teksta.
- Tekst. Dodajte bilješke slobodnog teksta.
- Ponovno indeksiranje. Ponovno izgradite pretraživanje agenta nakon mnogo promjena.
Pohrana je zajednička za cijelu organizaciju, s ograničenjima po izvoru, a izvore mogu dodavati, mijenjati ili brisati samo voditelji radnog prostora. Natpis pokazuje kada pozivi uživo još ne koriste bazu znanja. Povijest poziva omogućuje vam da ispravite odgovor koji je agent dao i, ako želite, spremite ga kao točan odgovor za sljedeći put. Počnite s vodičima Korištenje izvora znanja u servisu Call i Izgradnja baze znanja za podršku i AI.
Često postavljana pitanja
Je li RAG isto što i treniranje modela na mojim podacima?
Ne. Treniranje mijenja sam model. RAG ostavlja model nepromijenjenim i daje mu relevantne odlomke iz vašeg sadržaja u trenutku pitanja, što je lakše ažurirati i lakše provjeriti.
Sprječava li RAG glasovnog agenta da izmišlja?
Smanjuje problem, ali ga ne uklanja. Agent i dalje može krivo pročitati odlomak ili odgovoriti na pitanje koje vaš sadržaj ne pokriva. Jasne upute, dobar sadržaj i redovito testiranje drže pogreške niskima.
Koliko sadržaja trebam?
Manje nego što većina ljudi očekuje. Nekoliko desetaka točnih parova pitanje-odgovor koji pokrivaju vaše najčešće pozive često nadmašuje velik neuređeni arhiv. Dodajte više kako stvarni pozivi pokažu praznine.
Može li agent koristiti sadržaj iz PDF-ova?
Obično da, ako PDF ima tekst koji se može označiti. Skenirani PDF-ovi samo sa slikom trebaju prvo prepoznavanje teksta. Provjerite što je sustav izdvojio jer tablice i stupci mogu ispasti pomiješani.
Koliko često trebam ažurirati bazu znanja?
Kad god se činjenice promijene, a za sve ostalo na redovitom datumu pregleda. Dajte svakom izvoru vlasnika da se ažuriranja ne prepuštaju slučaju.