RAG pre hlasových agentov: odpovede z vášho vlastného obsahu
Ako RAG umožňuje telefónnej AI odpovedať z vašich dokumentov a FAQ, s tipmi na prípravu obsahu, obmedzenie chýb a testovanie odpovedí.
Jazykový model vie veľa o svete a nič o vašej firme. Nepozná vaše otváracie hodiny, pravidlá zrušenia ani meno technika, ktorý opravuje kotly. Ak ho požiadate, aby odpovedal na otázku volajúceho bez týchto informácií, môže hádať. Vyhľadávaním podporené generovanie, zvyčajne skracované na RAG, je štandardné riešenie: nájsť relevantnú časť vlastného obsahu, odovzdať ju modelu spolu s otázkou a požiadať ho, aby odpovedal z tohto materiálu.

Tento sprievodca vysvetľuje, ako RAG funguje v kontexte telefónnych hovorov, ako pripraviť obsah, kde sa pokazí a ako ho testovať. Pozadie k reťazcu nájdete v článku Ako funguje hlasová AI: STT, LLM a TTS.
Ako RAG funguje v hovore
Keď sa volajúci opýta, hlasový agent s RAG zvyčajne robí toto:
Cesta vyhľadávania
- PočúvanieRozpoznávanie reči premení slová volajúceho na text.
- HľadanieSystém prehľadá váš obsah a nájde pasáže súvisiace s otázkou.
- VýberPonechá niekoľko najrelevantnejších pasáží a zvyšok zahodí.
- ZloženieJazykový model napíše krátku odpoveď z otázky a týchto pasáží.
- VysloveniePrevod textu na reč odpoveď prečíta nahlas.
Prečo modelu nedať všetko?
Mohli by ste skúsiť vložiť všetok obsah do pokynov. Pracovný priestor modelu je však obmedzený, dlhé pokyny spomaľujú odpovede a veľká kopa textu uľahčuje modelu minúť jediný riadok, na ktorom záleží. Vyhľadávanie udržuje pracovnú sadu malú a relevantnú.
Čo znamená „hľadanie“
Hľadanie môže byť podľa kľúčových slov, podľa významu (nájde pasáže s podobným významom, aj keď sa slová líšia) alebo zmiešané. Hľadanie podľa významu pomáha pri volajúcich, ktorí formulujú otázku nečakane, napríklad „môžem prísť v nedeľu?“, keď váš obsah hovorí o „víkendových hodinách“. Nech sa použije akákoľvek metóda, pasáže sú malé úseky vašich dokumentov, takže spôsob, akým obsah píšete a delíte, priamo ovplyvňuje, čo sa nájde.
Výber a príprava obsahu
Kvalita na vstupe, kvalita na výstupe platí tu obzvlášť. Hlasový agent môže byť len taký presný ako materiál za ním.
Bežné zdroje obsahu
- FAQ a páry otázka–odpoveďPresné odpovede na konkrétne otázky; najspoľahlivejší zdroj pre bežné hovory.
- Webové stránkyExistujúce stránky o službách, hodinách a pravidlách, načítané raz alebo prehľadané po celom webe.
- DokumentySúbory PDF a textové dokumenty s cenníkmi, ponukami alebo postupmi, ak je text označiteľný.
- Voľný textPoznámky pre pravidlá, ktoré nikam inam nepatria, napríklad ako zvládnuť sviatok.
- Opravy zo skutočných hovorovOdpovede opravené človekom po vypočutí hovoru.
Píšte pre ucho
Obsah písaný na čítanie často znie pri vyslovení čudne. Tabuľky, dlhé zoznamy a skratky nahlas nefungujú. Kľúčové odpovede prepíšte do jednoduchých viet s jedným faktom na vetu a uveďte, ako sa majú čísla a časy vyslovovať. Každú pasáž držte samostatnú, aby dávala zmysel aj bez stránky okolo.
Odstráňte rozpory
Ak jedna stránka hovorí, že zatvárate o piatej, a iná o šiestej, agent povie jedno z toho náhodne. Skôr než niečo importujete, nájdite staré stránky, koncepty a duplicitné súbory a aktualizujte ich alebo zmažte. K pravidlám pridajte dátumy, aby vyhralo najnovšie.
Rozhodnite, čo je mimo hraníc
Povedzte agentovi, na čo nemá odpovedať: právne, lekárske alebo finančné rady, čokoľvek o účte konkrétnej osoby alebo témy, ktoré vybavujete len človekom. Správnou odpoveďou je zdvorilé odovzdanie. Pozrite Ochranné pravidlá pre hlasových AI agentov.
Kde RAG zlyháva
RAG znižuje halucinácie, ale neodstráni ich. Typické zlyhania sú:
Spôsoby zlyhania
| Čo sa stane | Náprava | |
|---|---|---|
| Nenájde sa nič relevantné | Agent improvizuje zo všeobecných znalostí. | Nariaďte mu povedať, že nevie, a ponúknuť človeka; doplňte chýbajúci obsah. |
| Nájde sa nesprávna pasáž | Použije sa podobne znejúce pravidlo pre inú službu. | Prepíšte pasáže s jasnými nadpismi; oddeľte podobné témy. |
| Zastaraný obsah | Agent uvedie minuloročné hodiny. | Dajte každému zdroju vlastníka a dátum kontroly. |
| Príliš dlhé vyhľadanie | Priveľa textu spomaľuje odpoveď a zahmlieva ju. | Používajte kratšie, zamerané pasáže. |
| Nesprávne počutá otázka | Chyby rozpoznávania reči vedú k nesprávnemu hľadaniu. | Testujte so zašumeným zvukom a prízvukmi; dôležité údaje potvrdzujte. |
Hlbší pohľad na predchádzanie vymysleným odpovediam nájdete v článku Predchádzanie vymysleným odpovediam v hlasovej AI. Aby agent vyhľadával živé fakty, napríklad stav objednávky, namiesto statického textu, pozrite Ako nechať hlasového agenta niečo vyhľadať.
Rozpočet rýchlosti
Telefonický rozhovor toleruje veľmi malé oneskorenie. Každý ďalší krok, napríklad hľadanie, pridáva čas. Zdroje držte upratané a malé, nevyhľadávajte viac pasáží, než odpoveď potrebuje, a časy odozvy testujte na skutočných hovoroch, nie na notebooku. Latencia hlasovej AI vysvetľuje, ako sa oneskorenie prejavuje a odkiaľ pochádza.
Udržujte aktuálnosť
Hodiny, ceny a pravidlá sa menia rýchlejšie, než si niekto spomenie upraviť znalostnú bázu. Vložte do spoločného kalendára opakujúce sa upozornenie: pred každou sezónou, sviatkom alebo zmenou cien vlastník obsahu skontroluje zdroje a znova ich indexuje. Po zmene zavolajte agentovi sám a opýtajte sa na to, čo sa zmenilo. Tridsaťsekundová kontrola predchádza dňu nesprávnych odpovedí.
Testujte pred spustením aj po ňom
Zostavte zoznam otázok v troch skupinách: otázky, na ktoré obsah odpovedá jasne, otázky, na ktoré odpovedá čiastočne, a otázky, ktoré nepokrýva. Pri každej zaznamenajte, čo agent povie. Skontrolujte, či je to správne, dosť krátke na vyslovenie, a či pri tretej skupine prizná, že nevie. Zoznam spustite znova vždy, keď sa zmení obsah.
Postup testovania
- Každú bežnú otázku položte v dvoch či troch formuláciách.
- Tie isté otázky položte so zašumenou linkou alebo silným prízvukom.
- Opýtajte sa na niečo, čo obsah neobsahuje.
- Položte otázku s pascou, napríklad starou cenou alebo zatvoreným dňom.
- Počúvajte odpovede, ktoré sú príliš dlhé na sledovanie sluchom.
- Prvý mesiac týždenne kontrolujte prepisy skutočných hovorov.
Opravy, ktoré vydržia
Keď človek nájde nesprávnu odpoveď, oprava prepisu nestačí; oprava sa má vrátiť do znalostnej bázy, aby agent nabudúce odpovedal správne. Určte, kto smie takúto zmenu urobiť, a veďte históriu zmien.
Ako na to v Call
V Call znalosti patria AI agentovi a pridávajú sa v časti Zdroje:
- Otázky a odpovede. Pridajte otázku a jej presnú odpoveď a použite „skontrolovať otázku“, aby ste videli, čo na ňu znalostná báza nájde.
- Web. Načítajte jednu stránku, celý web alebo vybrané stránky; stránky, ktoré súbor robots.txt webu žiada nečítať, sa vynechajú.
- Súbory. Nahrajte súbory PDF, Word, text, markdown, CSV alebo JSON. PDF musí mať označiteľný text; PDF len z obrázkov potrebuje najprv rozpoznanie textu.
- Text. Pridajte poznámky vo voľnom texte.
- Znovu indexovať. Po mnohých zmenách prebudujte vyhľadávanie agenta.
Úložisko je zdieľané v rámci organizácie, s limitmi na zdroj, a zdroje môžu pridávať, meniť alebo mazať len správcovia pracovného priestoru. Pruh zobrazí, keď živé hovory znalostnú bázu zatiaľ nepoužívajú. História hovorov vám umožní opraviť odpoveď, ktorú agent dal, a ak chcete, uložiť ju ako správnu odpoveď na nabudúce. Začnite článkami Používanie zdrojov znalostí v Call a Budovanie znalostnej bázy pre podporu a AI.
Často kladené otázky
Je RAG to isté ako trénovanie modelu na mojich údajoch?
Nie. Trénovanie mení samotný model. RAG nechá model nezmenený a v momente otázky mu dá relevantné pasáže z vášho obsahu, čo sa ľahšie aktualizuje a ľahšie kontroluje.
Zabráni RAG hlasovému agentovi vymýšľať si?
Znižuje problém, ale neodstráni ho. Agent môže stále zle pochopiť pasáž alebo odpovedať na otázku, ktorú váš obsah nepokrýva. Jasné pokyny, dobrý obsah a pravidelné testovanie držia chyby nízko.
Koľko obsahu potrebujem?
Menej, než väčšina ľudí čaká. Niekoľko desiatok presných párov otázka–odpoveď, ktoré pokrývajú vaše najčastejšie hovory, často prekoná veľký neupravený archív. Ďalšie pridajte, keď skutočné hovory ukážu medzery.
Môže agent použiť obsah z PDF?
Zvyčajne áno, ak má PDF označiteľný text. Naskenované PDF len z obrázkov potrebujú najprv rozpoznanie textu. Skontrolujte, čo systém vyextrahoval, pretože tabuľky a stĺpce môžu vyjsť pomiešané.
Ako často mám znalostnú bázu aktualizovať?
Vždy, keď sa zmenia fakty, a v pravidelnom termíne kontroly pre všetko ostatné. Každému zdroju dajte vlastníka, aby aktualizácie nezostali na náhodu.