Tehnologija glasovne umjetne inteligencije

RAG za glasovne agente: odgovaranje iz vlastitog sadržaja

Kako RAG omogućuje telefonskom AI-ju odgovaranje iz vaših dokumenata i čestih pitanja, uz savjete za pripremu sadržaja, ograničavanje pogrešaka i testiranje.

Urednički tim usluge Call · Objavljeno · Čitanje: 5 min

Jezični model zna mnogo o svijetu, a ništa o vašem poslovanju. Ne zna vaše radno vrijeme, vaša pravila otkazivanja niti ime tehničara koji obavlja popravke bojlera. Ako ga zamolite da odgovori na pitanje pozivatelja bez tih informacija, mogao bi pogađati. Generiranje potpomognuto dohvaćanjem, obično skraćeno RAG, standardni je lijek: pronađite relevantan dio vašeg sadržaja, predajte ga modelu uz pitanje i zatražite da odgovori iz tog materijala.

Osoba slaže tiskane dokumente i prijenosno računalo radi pripreme baze znanja za asistenta
Ilustrativna slika

Ovaj vodič objašnjava kako RAG radi u kontekstu telefonskih poziva, kako pripremiti sadržaj za njega, gdje griješi i kako ga testirati. Za pozadinu o cjevovodu pogledajte Kako radi glasovni AI: STT, LLM i TTS.

Kako RAG radi u pozivu

Kad pozivatelj postavi pitanje, glasovni agent koji radi s RAG-om obično čini ovo:

Put dohvaćanja

  1. SlušaPrepoznavanje govora pretvara pozivateljeve riječi u tekst.
  2. TražiSustav pretražuje vaš sadržaj za odlomke povezane s pitanjem.
  3. BiraZadržava nekoliko najrelevantnijih odlomaka, a ostale odbacuje.
  4. SastavljaJezični model piše kratak odgovor koristeći pitanje i te odlomke.
  5. GovoriPretvaranje teksta u govor čita odgovor naglas.

Zašto modelu ne dati sve?

Mogli biste pokušati zalijepiti sav sadržaj u upute. Ali radni prostor modela je ograničen, duge upute usporavaju odgovore, a velika hrpa teksta olakšava modelu da propusti jedini redak koji je važan. Dohvaćanje drži radni skup malim i relevantnim.

Što znači „pretraživanje”

Pretraživanje može biti temeljeno na ključnim riječima, na značenju (pronalaženje odlomaka sličnog značenja čak i kad se riječi razlikuju) ili mješavina. Pretraživanje prema značenju pomaže kod pozivatelja koji pitanje formuliraju neočekivano, primjerice „mogu li doći u nedjelju?” kad vaš sadržaj kaže „vikend radno vrijeme”. Koja god metoda bila, odlomci su mali dijelovi vaših dokumenata, pa način na koji pišete i dijelite sadržaj izravno utječe na ono što se pronađe.

Odabir i priprema sadržaja

Kvaliteta na ulazu, kvaliteta na izlazu ovdje osobito vrijedi. Glasovni agent može biti točan samo koliko i materijal iza njega.

Uobičajeni izvori sadržaja

  • Česta pitanja i parovi pitanje-odgovorTočni odgovori na konkretna pitanja; najpouzdaniji izvor za česte pozive.
  • Web-stranicePostojeće stranice o uslugama, radnom vremenu i pravilima, učitane jednom ili pretražene preko cijele stranice.
  • DokumentiPDF-ovi i datoteke obrađivača teksta s cjenicima, jelovnicima ili postupcima, ako se tekst može označiti.
  • Slobodan tekstBilješke za pravila koja ne pristaju nigdje drugdje, poput postupanja na blagdan.
  • Ispravci iz stvarnih pozivaOdgovori koje je osoba popravila nakon slušanja poziva.

Pišite za uho

Sadržaj napisan za čitanje često zvuči neobično kad se izgovori. Tablice, dugi popisi i kratice ne rade naglas. Prepišite ključne odgovore jednostavnim rečenicama, s jednom činjenicom po rečenici, i opišite kako se brojevi i vremena trebaju izgovarati. Neka svaki odlomak bude samostalan da ima smisla bez stranice oko sebe.

Uklonite proturječja

Ako jedna stranica kaže da zatvarate u pet, a druga u šest, agent će reći jedno od toga nasumično. Prije uvoza bilo čega pronađite stare stranice, nacrte i duplicirane datoteke te ih ažurirajte ili obrišite. Dodajte datume pravilima kako bi pobijedilo najnovije.

Odlučite što je izvan granica

Recite agentu na što ne smije odgovarati: pravni, medicinski ili financijski savjeti, sve o računu određene osobe ili teme koje rješavate isključivo ljudski. Pravi odgovor je pristojna predaja. Pogledajte Zaštitne ograde za glasovne AI agente.

Gdje RAG griješi

RAG smanjuje halucinacije, ali ih ne uklanja. Tipični propusti su:

Načini kvara

Što se događaLijek
Ništa relevantno nije pronađenoAgent improvizira iz općeg znanja.Uputite ga da kaže da ne zna i ponudi osobu; dodajte sadržaj koji nedostaje.
Pronađen pogrešan odlomakKoristi se slično zvučeće pravilo za drugu uslugu.Prepišite odlomke s jasnim naslovima; odvojite slične teme.
Zastarjeli sadržajAgent navodi prošlogodišnje radno vrijeme.Dajte svakom izvoru vlasnika i datum pregleda.
Predugo dohvaćanjePreviše teksta usporava odgovor i zbunjuje ga.Koristite kraće, usredotočene odlomke.
Krivo čuto pitanjePogreške prepoznavanja govora dovode do pogrešnog pretraživanja.Testirajte s bučnim zvukom i naglascima; potvrdite važne pojedinosti.

Za dublji pogled na sprječavanje izmišljenih odgovora pročitajte Sprječavanje izmišljenih odgovora u glasovnom AI-ju. Da bi agent tražio činjenice uživo, poput statusa narudžbe, umjesto statičkog teksta, pogledajte Omogućavanje glasovnom agentu da traži informacije.

Proračun brzine

Telefonski razgovori toleriraju vrlo malo kašnjenja. Svaki dodatni korak, poput pretraživanja, dodaje vrijeme. Držite izvore urednima i malima, izbjegavajte dohvaćanje više odlomaka nego što odgovor treba i testirajte vremena odgovora na stvarnim pozivima, a ne na prijenosnom računalu. Kašnjenje glasovnog AI-ja objašnjava kako se kašnjenja osjećaju i odakle dolaze.

Održavajte ažurnost

Radno vrijeme, cijene i pravila mijenjaju se brže nego što itko stigne urediti bazu znanja. Stavite ponavljajući podsjetnik u zajednički kalendar: prije svake sezone, blagdana ili promjene cijena vlasnik sadržaja pregleda izvore i ponovno ih indeksira. Nakon promjene sami nazovite agenta i pitajte o onome što se promijenilo. Provjera od trideset sekundi sprječava dan pogrešnih odgovora.

Testirajte prije i poslije pokretanja

Napravite popis pitanja u tri skupine: pitanja na koja sadržaj jasno odgovara, pitanja na koja odgovara djelomično i pitanja koja ne pokriva. Za svako zabilježite što agent kaže. Provjerite je li točno, dovoljno kratko za izgovor i, za treću skupinu, priznaje li da ne zna. Ponovno pokrenite popis kad god se sadržaj promijeni.

Rutina testiranja

  • Postavite svako uobičajeno pitanje u dvije ili tri različite formulacije.
  • Postavite ista pitanja s bučnom linijom ili jakim naglaskom.
  • Pitajte za nešto što sadržaj ne sadrži.
  • Postavite pitanje sa zamkom, poput stare cijene ili zatvorenog dana.
  • Slušajte odgovore koji su predugi da bi ih se pratilo sluhom.
  • Prvi mjesec svaki tjedan pregledajte transkripte stvarnih poziva.

Ispravci koji se drže

Kad čovjek pronađe pogrešan odgovor, ispravak transkripta nije dovoljan; ispravak se treba vratiti u bazu znanja kako bi agent sljedeći put odgovorio točno. Odlučite tko smije napraviti tu promjenu i vodite povijest promjena.

Kako to učiniti u servisu Call

U servisu Call znanje pripada AI agentu i dodaje se pod Izvori:

Pohrana je zajednička za cijelu organizaciju, s ograničenjima po izvoru, a izvore mogu dodavati, mijenjati ili brisati samo voditelji radnog prostora. Natpis pokazuje kada pozivi uživo još ne koriste bazu znanja. Povijest poziva omogućuje vam da ispravite odgovor koji je agent dao i, ako želite, spremite ga kao točan odgovor za sljedeći put. Počnite s vodičima Korištenje izvora znanja u servisu Call i Izgradnja baze znanja za podršku i AI.

Često postavljana pitanja

Je li RAG isto što i treniranje modela na mojim podacima?

Ne. Treniranje mijenja sam model. RAG ostavlja model nepromijenjenim i daje mu relevantne odlomke iz vašeg sadržaja u trenutku pitanja, što je lakše ažurirati i lakše provjeriti.

Sprječava li RAG glasovnog agenta da izmišlja?

Smanjuje problem, ali ga ne uklanja. Agent i dalje može krivo pročitati odlomak ili odgovoriti na pitanje koje vaš sadržaj ne pokriva. Jasne upute, dobar sadržaj i redovito testiranje drže pogreške niskima.

Koliko sadržaja trebam?

Manje nego što većina ljudi očekuje. Nekoliko desetaka točnih parova pitanje-odgovor koji pokrivaju vaše najčešće pozive često nadmašuje velik neuređeni arhiv. Dodajte više kako stvarni pozivi pokažu praznine.

Može li agent koristiti sadržaj iz PDF-ova?

Obično da, ako PDF ima tekst koji se može označiti. Skenirani PDF-ovi samo sa slikom trebaju prvo prepoznavanje teksta. Provjerite što je sustav izdvojio jer tablice i stupci mogu ispasti pomiješani.

Koliko često trebam ažurirati bazu znanja?

Kad god se činjenice promijene, a za sve ostalo na redovitom datumu pregleda. Dajte svakom izvoru vlasnika da se ažuriranja ne prepuštaju slučaju.

Dodajte izvore znanja svom AI agentu i provjerite njegove odgovore u servisu Call

U demo konzoli možete isprobati dolazne pozive u simulaciji.

Povezani vodiči