RAG para sa Voice Agent: Pagsagot Mula sa Sarili Ninyong Content
Paano sumasagot ang phone AI mula sa inyong dokumento at FAQ gamit ang retrieval-augmented generation, at tips sa paghahanda ng content, pagbawas ng mali at testing.
Maraming alam ang language model tungkol sa mundo pero wala tungkol sa negosyo ninyo. Hindi nito alam ang oras ng operasyon ninyo, ang cancellation policy, o ang pangalan ng technician na humahawak ng pag-aayos ng boiler. Kung hihilingin ninyong sagutin nito ang tanong ng caller nang wala ang impormasyong iyon, maaari itong manghula. Ang retrieval-augmented generation, karaniwang pinaikli bilang RAG, ang standard na lunas: hanapin ang kaugnay na bahagi ng sarili ninyong content, ibigay ito sa modelo kasama ang tanong, at hilingin ditong sumagot mula sa materyal na iyon.

Ipinapaliwanag ng gabay na ito kung paano gumagana ang RAG sa konteksto ng tawag sa telepono, paano ihanda ang content para dito, saan ito nagkakamali at paano ito subukan. Para sa background tungkol sa pipeline, tingnan ang Paano Gumagana ang Voice AI: STT, LLM at TTS.
Paano gumagana ang RAG sa isang tawag
Kapag nagtanong ang caller, kadalasang ganito ang ginagawa ng voice agent na gumagamit ng RAG:
Ang daan ng retrieval
- MakinigGinagawang text ng speech recognition ang mga salita ng caller.
- MaghanapHinahanap ng sistema sa inyong content ang mga bahaging may kaugnayan sa tanong.
- PumiliPinapanatili nito ang iilang pinakakaugnay na bahagi at inaalis ang iba.
- BumuoSumusulat ang language model ng maikling sagot gamit ang tanong at ang mga bahaging iyon.
- MagsalitaBinabasa nang malakas ng text-to-speech ang sagot.
Bakit hindi na lang ibigay sa modelo ang lahat?
Maaari ninyong subukang i-paste ang lahat ng content sa mga instruction. Pero limitado ang working space ng modelo, pinababagal ng mahahabang instruction ang sagot, at pinadadali ng malaking tambak ng teksto na makaligtaan ng modelo ang iisang linyang mahalaga. Pinananatiling maliit at kaugnay ng retrieval ang working set.
Ano ang ibig sabihin ng "search"
Maaaring keyword-based ang search, meaning-based (naghahanap ng mga bahaging magkahawig ang kahulugan kahit magkaiba ang salita), o halo. Nakatutulong ang meaning-based search sa mga caller na hindi inaasahan ang pagkakatanong, gaya ng "puwede ba akong pumunta sa Linggo?" kapag "weekend hours" ang nakasulat sa content ninyo. Anuman ang paraan, maliliit na piraso ng inyong dokumento ang mga bahagi, kaya direktang naaapektuhan ng paraan ng pagsulat at paghahati ng content ang nahahanap.
Pagpili at paghahanda ng content
Lalong totoo rito na kung ano ang pumasok, iyon ang lalabas. Kasing-tumpak lang ng materyal sa likod nito ang voice agent.
Mga karaniwang pinagkukunan ng content
- FAQ at Q&A pairsEksaktong sagot sa tiyak na tanong; ang pinakamaaasahang pinagkukunan para sa mga karaniwang tawag.
- Web pagesMga kasalukuyang page tungkol sa serbisyo, oras at polisiya, binasa nang isang beses o kinrawl sa buong site.
- DokumentoPDF at word-processor file na may price list, menu o proseso, kung nase-select ang teksto.
- Free textMga tala para sa patakarang walang ibang mapaglalagyan, gaya ng paghawak sa holiday.
- Pagtatama mula sa totoong tawagMga sagot na inayos ng tao matapos makinig sa tawag.
Sumulat para sa tainga
Madalas ay kakaiba ang tunog ng content na isinulat para basahin kapag binigkas. Hindi gumagana nang malakas ang table, mahahabang listahan at abbreviation. Isulat muli ang mga pangunahing sagot sa simpleng pangungusap, isang impormasyon kada pangungusap, at isulat nang buo kung paano dapat bigkasin ang mga numero at oras. Gawing buo ang bawat bahagi para may saysay ito kahit wala ang page sa paligid nito.
Alisin ang mga salungatan
Kung sinasabi ng isang page na nagsasara kayo nang alas-singko at ng iba ay alas-sais, random na sasabihin ng agent ang isa sa mga ito. Bago mag-import ng anuman, hanapin ang mga lumang page, draft at duplicate na file, at i-update o burahin ang mga ito. Lagyan ng petsa ang mga polisiya para manaig ang pinakabago.
Pagpasyahan kung ano ang bawal
Sabihin sa agent kung ano ang hindi nito dapat sagutin: legal, medical o financial advice, anumang tungkol sa account ng tiyak na tao, o mga paksang tao lang ang humahawak. Ang tamang tugon ay magalang na handoff. Tingnan ang Mga Guardrail para sa Voice AI Agent.
Saan nagkakamali ang RAG
Binabawasan ng RAG ang hallucination pero hindi ito tuluyang inaalis. Ang mga karaniwang palya ay:
Mga uri ng palya
| Ano ang nangyayari | Lunas | |
|---|---|---|
| Walang nahanap na kaugnay | Nag-i-improvise ang agent mula sa pangkalahatang kaalaman. | Iutos ditong sabihing hindi nito alam at mag-alok ng tao; idagdag ang kulang na content. |
| Maling bahagi ang nahanap | Nagamit ang magkatunog na polisiya para sa ibang serbisyo. | Isulat muli ang mga bahagi na may malinaw na pamagat; paghiwalayin ang magkahawig na paksa. |
| Lumang content | Sinasabi ng agent ang oras noong nakaraang taon. | Bigyan ang bawat source ng may-ari at petsa ng review. |
| Sobrang habang retrieval | Pinababagal ng sobrang teksto ang sagot at nalilito ito. | Gumamit ng mas maiikli at nakatuong bahagi. |
| Maling narinig na tanong | Humahantong sa maling search ang mga mali sa speech recognition. | Subukan gamit ang maingay na audio at iba't ibang accent; kumpirmahin ang mahahalagang detalye. |
Para sa mas malalim na pagtingin sa pag-iwas sa imbentong sagot, basahin ang Pag-iwas sa Imbentong Sagot sa Voice AI. Para makapaghanap ang agent ng live na impormasyon, gaya ng status ng order, sa halip na static na teksto, tingnan ang Pagpapahanap ng Impormasyon sa Voice Agent.
Ang palugit sa bilis
Napakaliit na pagkaantala lang ang kayang tiisin ng usapan sa telepono. Nagdadagdag ng oras ang bawat dagdag na hakbang, gaya ng paghahanap. Panatilihing maayos at maliit ang mga source, iwasang kumuha ng mas maraming bahagi kaysa kailangan ng sagot, at subukan ang response time sa totoong tawag sa halip na sa laptop. Ipinapaliwanag ng Latency ng Voice AI kung paano nararamdaman ang pagkaantala at saan ito nanggagaling.
Panatilihin itong updated
Mas mabilis magbago ang oras, presyo at polisiya kaysa sa naaalala ng sinuman na i-edit ang knowledge base. Maglagay ng paulit-ulit na paalala sa shared calendar: bago ang bawat season, holiday o pagbabago ng presyo, sinusuri ng may-ari ng content ang mga source at nire-re-index ang mga ito. Pagkatapos ng pagbabago, tawagan ninyo mismo ang agent at itanong ang tungkol sa nagbago. Napipigilan ng tatlumpung segundong pagsusuri ang isang araw ng maling sagot.
Subukan bago at pagkatapos mag-launch
Gumawa ng listahan ng mga tanong sa tatlong grupo: mga tanong na malinaw na sinasagot ng content, mga tanong na bahagya lang nitong sinasagot, at mga tanong na hindi nito sakop. Para sa bawat isa, itala ang sinasabi ng agent. Tiyaking tama ito, sapat na maikli para bigkasin, at para sa ikatlong grupo, umaamin itong hindi nito alam. Patakbuhin muli ang listahan tuwing nagbabago ang content.
Isang test routine
- Itanong ang bawat karaniwang tanong sa dalawa o tatlong magkaibang pananalita.
- Itanong ang parehong tanong sa maingay na linya o may malakas na accent.
- Humingi ng bagay na wala sa content.
- Magtanong ng may patibong, gaya ng lumang presyo o saradong araw.
- Pakinggan ang mga sagot na masyadong mahaba para masundan sa pakikinig.
- Suriin linggo-linggo ang totoong call transcript sa unang buwan.
Pagtatamang tumatagal
Kapag may nakitang maling sagot ang tao, hindi sapat na ayusin ang transcript; dapat ibalik ang pagtatama sa knowledge base para tama ang sagot ng agent sa susunod. Pagpasyahan kung sino ang pinapayagang gumawa ng pagbabagong iyon at magtago ng history ng mga pagbabago.
Paano ito gawin sa Call
Sa Call, pag-aari ng AI agent ang kaalaman at idinadagdag ito sa ilalim ng Sources:
- Q&A. Magdagdag ng tanong at ng eksaktong sagot nito, at gamitin ang "check a question" para makita kung ano ang nahahanap ng knowledge base para dito.
- Website. Basahin ang isang page, buong site o mga piling page; hindi isinasama ang mga page na hinihiling ng robots.txt ng site na huwag basahin ng mga crawler.
- Files. Mag-upload ng PDF, Word, text, markdown, CSV o JSON file. Dapat may nase-select na teksto ang PDF; kailangan munang dumaan sa text recognition ang mga PDF na puro larawan.
- Text. Magdagdag ng free-text na tala.
- Re-index. Buuin muli ang search ng agent pagkatapos ng maraming pagbabago.
Shared sa buong organisasyon ang storage, na may limitasyon kada source, at mga workspace manager lang ang makapagdaragdag, makapagbabago o makapagbubura ng source. May banner na lumalabas kapag hindi pa ginagamit ng live na tawag ang knowledge base. Sa call history, maitatama ninyo ang sagot na ibinigay ng agent at, kung gusto ninyo, i-save ito bilang tamang sagot para sa susunod. Magsimula sa Paggamit ng Knowledge Sources sa Call at Paggawa ng Knowledge Base para sa Support at AI.
Mga madalas itanong
Pareho ba ang RAG at ang pag-train ng modelo sa datos ko?
Hindi. Binabago ng training ang mismong modelo. Hindi ginagalaw ng RAG ang modelo at binibigyan ito ng mga kaugnay na bahagi mula sa content ninyo sa sandali ng tanong, na mas madaling i-update at mas madaling suriin.
Napipigilan ba ng RAG ang voice agent na mag-imbento?
Binabawasan nito ang problema pero hindi inaalis. Maaari pa ring maling basahin ng agent ang isang bahagi o sumagot sa tanong na hindi sakop ng content ninyo. Pinananatiling mababa ang mali ng malinaw na instruction, mahusay na content at regular na testing.
Gaano karaming content ang kailangan ko?
Mas kaunti kaysa inaasahan ng karamihan. Madalas ay mas mahusay ang ilang dosenang tumpak na Q&A pairs na sumasaklaw sa pinakakaraniwang tawag kaysa sa malaking hindi na-edit na archive. Magdagdag pa habang ipinapakita ng totoong tawag ang mga kakulangan.
Magagamit ba ng agent ang content sa PDF?
Kadalasan, kung may nase-select na teksto ang PDF. Kailangan munang dumaan sa text recognition ang mga na-scan na PDF na puro larawan. Tingnan kung ano ang nakuha ng sistema, dahil maaaring magulo ang paglabas ng table at column.
Gaano kadalas ko dapat i-update ang knowledge base?
Tuwing nagbabago ang impormasyon, at sa regular na petsa ng review para sa lahat ng iba pa. Bigyan ang bawat source ng may-ari para hindi maiwan sa tsamba ang pag-update.