Teknolohiya ng voice AI

RAG para sa Voice Agent: Pagsagot Mula sa Sarili Ninyong Content

Paano sumasagot ang phone AI mula sa inyong dokumento at FAQ gamit ang retrieval-augmented generation, at tips sa paghahanda ng content, pagbawas ng mali at testing.

Editorial team ng Call · Nailathala · 6 min na pagbabasa

Maraming alam ang language model tungkol sa mundo pero wala tungkol sa negosyo ninyo. Hindi nito alam ang oras ng operasyon ninyo, ang cancellation policy, o ang pangalan ng technician na humahawak ng pag-aayos ng boiler. Kung hihilingin ninyong sagutin nito ang tanong ng caller nang wala ang impormasyong iyon, maaari itong manghula. Ang retrieval-augmented generation, karaniwang pinaikli bilang RAG, ang standard na lunas: hanapin ang kaugnay na bahagi ng sarili ninyong content, ibigay ito sa modelo kasama ang tanong, at hilingin ditong sumagot mula sa materyal na iyon.

Isang taong nag-aayos ng mga naka-print na dokumento at laptop para ihanda ang knowledge base ng isang assistant
Larawang pang-ilustrasyon

Ipinapaliwanag ng gabay na ito kung paano gumagana ang RAG sa konteksto ng tawag sa telepono, paano ihanda ang content para dito, saan ito nagkakamali at paano ito subukan. Para sa background tungkol sa pipeline, tingnan ang Paano Gumagana ang Voice AI: STT, LLM at TTS.

Paano gumagana ang RAG sa isang tawag

Kapag nagtanong ang caller, kadalasang ganito ang ginagawa ng voice agent na gumagamit ng RAG:

Ang daan ng retrieval

  1. MakinigGinagawang text ng speech recognition ang mga salita ng caller.
  2. MaghanapHinahanap ng sistema sa inyong content ang mga bahaging may kaugnayan sa tanong.
  3. PumiliPinapanatili nito ang iilang pinakakaugnay na bahagi at inaalis ang iba.
  4. BumuoSumusulat ang language model ng maikling sagot gamit ang tanong at ang mga bahaging iyon.
  5. MagsalitaBinabasa nang malakas ng text-to-speech ang sagot.

Bakit hindi na lang ibigay sa modelo ang lahat?

Maaari ninyong subukang i-paste ang lahat ng content sa mga instruction. Pero limitado ang working space ng modelo, pinababagal ng mahahabang instruction ang sagot, at pinadadali ng malaking tambak ng teksto na makaligtaan ng modelo ang iisang linyang mahalaga. Pinananatiling maliit at kaugnay ng retrieval ang working set.

Ano ang ibig sabihin ng "search"

Maaaring keyword-based ang search, meaning-based (naghahanap ng mga bahaging magkahawig ang kahulugan kahit magkaiba ang salita), o halo. Nakatutulong ang meaning-based search sa mga caller na hindi inaasahan ang pagkakatanong, gaya ng "puwede ba akong pumunta sa Linggo?" kapag "weekend hours" ang nakasulat sa content ninyo. Anuman ang paraan, maliliit na piraso ng inyong dokumento ang mga bahagi, kaya direktang naaapektuhan ng paraan ng pagsulat at paghahati ng content ang nahahanap.

Pagpili at paghahanda ng content

Lalong totoo rito na kung ano ang pumasok, iyon ang lalabas. Kasing-tumpak lang ng materyal sa likod nito ang voice agent.

Mga karaniwang pinagkukunan ng content

  • FAQ at Q&A pairsEksaktong sagot sa tiyak na tanong; ang pinakamaaasahang pinagkukunan para sa mga karaniwang tawag.
  • Web pagesMga kasalukuyang page tungkol sa serbisyo, oras at polisiya, binasa nang isang beses o kinrawl sa buong site.
  • DokumentoPDF at word-processor file na may price list, menu o proseso, kung nase-select ang teksto.
  • Free textMga tala para sa patakarang walang ibang mapaglalagyan, gaya ng paghawak sa holiday.
  • Pagtatama mula sa totoong tawagMga sagot na inayos ng tao matapos makinig sa tawag.

Sumulat para sa tainga

Madalas ay kakaiba ang tunog ng content na isinulat para basahin kapag binigkas. Hindi gumagana nang malakas ang table, mahahabang listahan at abbreviation. Isulat muli ang mga pangunahing sagot sa simpleng pangungusap, isang impormasyon kada pangungusap, at isulat nang buo kung paano dapat bigkasin ang mga numero at oras. Gawing buo ang bawat bahagi para may saysay ito kahit wala ang page sa paligid nito.

Alisin ang mga salungatan

Kung sinasabi ng isang page na nagsasara kayo nang alas-singko at ng iba ay alas-sais, random na sasabihin ng agent ang isa sa mga ito. Bago mag-import ng anuman, hanapin ang mga lumang page, draft at duplicate na file, at i-update o burahin ang mga ito. Lagyan ng petsa ang mga polisiya para manaig ang pinakabago.

Pagpasyahan kung ano ang bawal

Sabihin sa agent kung ano ang hindi nito dapat sagutin: legal, medical o financial advice, anumang tungkol sa account ng tiyak na tao, o mga paksang tao lang ang humahawak. Ang tamang tugon ay magalang na handoff. Tingnan ang Mga Guardrail para sa Voice AI Agent.

Saan nagkakamali ang RAG

Binabawasan ng RAG ang hallucination pero hindi ito tuluyang inaalis. Ang mga karaniwang palya ay:

Mga uri ng palya

Ano ang nangyayariLunas
Walang nahanap na kaugnayNag-i-improvise ang agent mula sa pangkalahatang kaalaman.Iutos ditong sabihing hindi nito alam at mag-alok ng tao; idagdag ang kulang na content.
Maling bahagi ang nahanapNagamit ang magkatunog na polisiya para sa ibang serbisyo.Isulat muli ang mga bahagi na may malinaw na pamagat; paghiwalayin ang magkahawig na paksa.
Lumang contentSinasabi ng agent ang oras noong nakaraang taon.Bigyan ang bawat source ng may-ari at petsa ng review.
Sobrang habang retrievalPinababagal ng sobrang teksto ang sagot at nalilito ito.Gumamit ng mas maiikli at nakatuong bahagi.
Maling narinig na tanongHumahantong sa maling search ang mga mali sa speech recognition.Subukan gamit ang maingay na audio at iba't ibang accent; kumpirmahin ang mahahalagang detalye.

Para sa mas malalim na pagtingin sa pag-iwas sa imbentong sagot, basahin ang Pag-iwas sa Imbentong Sagot sa Voice AI. Para makapaghanap ang agent ng live na impormasyon, gaya ng status ng order, sa halip na static na teksto, tingnan ang Pagpapahanap ng Impormasyon sa Voice Agent.

Ang palugit sa bilis

Napakaliit na pagkaantala lang ang kayang tiisin ng usapan sa telepono. Nagdadagdag ng oras ang bawat dagdag na hakbang, gaya ng paghahanap. Panatilihing maayos at maliit ang mga source, iwasang kumuha ng mas maraming bahagi kaysa kailangan ng sagot, at subukan ang response time sa totoong tawag sa halip na sa laptop. Ipinapaliwanag ng Latency ng Voice AI kung paano nararamdaman ang pagkaantala at saan ito nanggagaling.

Panatilihin itong updated

Mas mabilis magbago ang oras, presyo at polisiya kaysa sa naaalala ng sinuman na i-edit ang knowledge base. Maglagay ng paulit-ulit na paalala sa shared calendar: bago ang bawat season, holiday o pagbabago ng presyo, sinusuri ng may-ari ng content ang mga source at nire-re-index ang mga ito. Pagkatapos ng pagbabago, tawagan ninyo mismo ang agent at itanong ang tungkol sa nagbago. Napipigilan ng tatlumpung segundong pagsusuri ang isang araw ng maling sagot.

Subukan bago at pagkatapos mag-launch

Gumawa ng listahan ng mga tanong sa tatlong grupo: mga tanong na malinaw na sinasagot ng content, mga tanong na bahagya lang nitong sinasagot, at mga tanong na hindi nito sakop. Para sa bawat isa, itala ang sinasabi ng agent. Tiyaking tama ito, sapat na maikli para bigkasin, at para sa ikatlong grupo, umaamin itong hindi nito alam. Patakbuhin muli ang listahan tuwing nagbabago ang content.

Isang test routine

  • Itanong ang bawat karaniwang tanong sa dalawa o tatlong magkaibang pananalita.
  • Itanong ang parehong tanong sa maingay na linya o may malakas na accent.
  • Humingi ng bagay na wala sa content.
  • Magtanong ng may patibong, gaya ng lumang presyo o saradong araw.
  • Pakinggan ang mga sagot na masyadong mahaba para masundan sa pakikinig.
  • Suriin linggo-linggo ang totoong call transcript sa unang buwan.

Pagtatamang tumatagal

Kapag may nakitang maling sagot ang tao, hindi sapat na ayusin ang transcript; dapat ibalik ang pagtatama sa knowledge base para tama ang sagot ng agent sa susunod. Pagpasyahan kung sino ang pinapayagang gumawa ng pagbabagong iyon at magtago ng history ng mga pagbabago.

Paano ito gawin sa Call

Sa Call, pag-aari ng AI agent ang kaalaman at idinadagdag ito sa ilalim ng Sources:

Shared sa buong organisasyon ang storage, na may limitasyon kada source, at mga workspace manager lang ang makapagdaragdag, makapagbabago o makapagbubura ng source. May banner na lumalabas kapag hindi pa ginagamit ng live na tawag ang knowledge base. Sa call history, maitatama ninyo ang sagot na ibinigay ng agent at, kung gusto ninyo, i-save ito bilang tamang sagot para sa susunod. Magsimula sa Paggamit ng Knowledge Sources sa Call at Paggawa ng Knowledge Base para sa Support at AI.

Mga madalas itanong

Pareho ba ang RAG at ang pag-train ng modelo sa datos ko?

Hindi. Binabago ng training ang mismong modelo. Hindi ginagalaw ng RAG ang modelo at binibigyan ito ng mga kaugnay na bahagi mula sa content ninyo sa sandali ng tanong, na mas madaling i-update at mas madaling suriin.

Napipigilan ba ng RAG ang voice agent na mag-imbento?

Binabawasan nito ang problema pero hindi inaalis. Maaari pa ring maling basahin ng agent ang isang bahagi o sumagot sa tanong na hindi sakop ng content ninyo. Pinananatiling mababa ang mali ng malinaw na instruction, mahusay na content at regular na testing.

Gaano karaming content ang kailangan ko?

Mas kaunti kaysa inaasahan ng karamihan. Madalas ay mas mahusay ang ilang dosenang tumpak na Q&A pairs na sumasaklaw sa pinakakaraniwang tawag kaysa sa malaking hindi na-edit na archive. Magdagdag pa habang ipinapakita ng totoong tawag ang mga kakulangan.

Magagamit ba ng agent ang content sa PDF?

Kadalasan, kung may nase-select na teksto ang PDF. Kailangan munang dumaan sa text recognition ang mga na-scan na PDF na puro larawan. Tingnan kung ano ang nakuha ng sistema, dahil maaaring magulo ang paglabas ng table at column.

Gaano kadalas ko dapat i-update ang knowledge base?

Tuwing nagbabago ang impormasyon, at sa regular na petsa ng review para sa lahat ng iba pa. Bigyan ang bawat source ng may-ari para hindi maiwan sa tsamba ang pag-update.

Magdagdag ng knowledge sources sa inyong AI agent at suriin ang mga sagot nito sa Call

Sa demo console, masusubukan mo ang mga papasok na tawag sa isang simulation.

Mga kaugnay na gabay