Technológie hlasovej AI

RAG pre hlasových agentov: odpovede z vášho vlastného obsahu

Ako RAG umožňuje telefónnej AI odpovedať z vašich dokumentov a FAQ, s tipmi na prípravu obsahu, obmedzenie chýb a testovanie odpovedí.

Redakcia Call · Zverejnené · Čítanie na 5 min

Jazykový model vie veľa o svete a nič o vašej firme. Nepozná vaše otváracie hodiny, pravidlá zrušenia ani meno technika, ktorý opravuje kotly. Ak ho požiadate, aby odpovedal na otázku volajúceho bez týchto informácií, môže hádať. Vyhľadávaním podporené generovanie, zvyčajne skracované na RAG, je štandardné riešenie: nájsť relevantnú časť vlastného obsahu, odovzdať ju modelu spolu s otázkou a požiadať ho, aby odpovedal z tohto materiálu.

Človek usporadúva vytlačené dokumenty a notebook pri príprave znalostnej bázy pre asistenta
Ilustračný obrázok

Tento sprievodca vysvetľuje, ako RAG funguje v kontexte telefónnych hovorov, ako pripraviť obsah, kde sa pokazí a ako ho testovať. Pozadie k reťazcu nájdete v článku Ako funguje hlasová AI: STT, LLM a TTS.

Ako RAG funguje v hovore

Keď sa volajúci opýta, hlasový agent s RAG zvyčajne robí toto:

Cesta vyhľadávania

  1. PočúvanieRozpoznávanie reči premení slová volajúceho na text.
  2. HľadanieSystém prehľadá váš obsah a nájde pasáže súvisiace s otázkou.
  3. VýberPonechá niekoľko najrelevantnejších pasáží a zvyšok zahodí.
  4. ZloženieJazykový model napíše krátku odpoveď z otázky a týchto pasáží.
  5. VysloveniePrevod textu na reč odpoveď prečíta nahlas.

Prečo modelu nedať všetko?

Mohli by ste skúsiť vložiť všetok obsah do pokynov. Pracovný priestor modelu je však obmedzený, dlhé pokyny spomaľujú odpovede a veľká kopa textu uľahčuje modelu minúť jediný riadok, na ktorom záleží. Vyhľadávanie udržuje pracovnú sadu malú a relevantnú.

Čo znamená „hľadanie“

Hľadanie môže byť podľa kľúčových slov, podľa významu (nájde pasáže s podobným významom, aj keď sa slová líšia) alebo zmiešané. Hľadanie podľa významu pomáha pri volajúcich, ktorí formulujú otázku nečakane, napríklad „môžem prísť v nedeľu?“, keď váš obsah hovorí o „víkendových hodinách“. Nech sa použije akákoľvek metóda, pasáže sú malé úseky vašich dokumentov, takže spôsob, akým obsah píšete a delíte, priamo ovplyvňuje, čo sa nájde.

Výber a príprava obsahu

Kvalita na vstupe, kvalita na výstupe platí tu obzvlášť. Hlasový agent môže byť len taký presný ako materiál za ním.

Bežné zdroje obsahu

  • FAQ a páry otázka–odpoveďPresné odpovede na konkrétne otázky; najspoľahlivejší zdroj pre bežné hovory.
  • Webové stránkyExistujúce stránky o službách, hodinách a pravidlách, načítané raz alebo prehľadané po celom webe.
  • DokumentySúbory PDF a textové dokumenty s cenníkmi, ponukami alebo postupmi, ak je text označiteľný.
  • Voľný textPoznámky pre pravidlá, ktoré nikam inam nepatria, napríklad ako zvládnuť sviatok.
  • Opravy zo skutočných hovorovOdpovede opravené človekom po vypočutí hovoru.

Píšte pre ucho

Obsah písaný na čítanie často znie pri vyslovení čudne. Tabuľky, dlhé zoznamy a skratky nahlas nefungujú. Kľúčové odpovede prepíšte do jednoduchých viet s jedným faktom na vetu a uveďte, ako sa majú čísla a časy vyslovovať. Každú pasáž držte samostatnú, aby dávala zmysel aj bez stránky okolo.

Odstráňte rozpory

Ak jedna stránka hovorí, že zatvárate o piatej, a iná o šiestej, agent povie jedno z toho náhodne. Skôr než niečo importujete, nájdite staré stránky, koncepty a duplicitné súbory a aktualizujte ich alebo zmažte. K pravidlám pridajte dátumy, aby vyhralo najnovšie.

Rozhodnite, čo je mimo hraníc

Povedzte agentovi, na čo nemá odpovedať: právne, lekárske alebo finančné rady, čokoľvek o účte konkrétnej osoby alebo témy, ktoré vybavujete len človekom. Správnou odpoveďou je zdvorilé odovzdanie. Pozrite Ochranné pravidlá pre hlasových AI agentov.

Kde RAG zlyháva

RAG znižuje halucinácie, ale neodstráni ich. Typické zlyhania sú:

Spôsoby zlyhania

Čo sa staneNáprava
Nenájde sa nič relevantnéAgent improvizuje zo všeobecných znalostí.Nariaďte mu povedať, že nevie, a ponúknuť človeka; doplňte chýbajúci obsah.
Nájde sa nesprávna pasážPoužije sa podobne znejúce pravidlo pre inú službu.Prepíšte pasáže s jasnými nadpismi; oddeľte podobné témy.
Zastaraný obsahAgent uvedie minuloročné hodiny.Dajte každému zdroju vlastníka a dátum kontroly.
Príliš dlhé vyhľadaniePriveľa textu spomaľuje odpoveď a zahmlieva ju.Používajte kratšie, zamerané pasáže.
Nesprávne počutá otázkaChyby rozpoznávania reči vedú k nesprávnemu hľadaniu.Testujte so zašumeným zvukom a prízvukmi; dôležité údaje potvrdzujte.

Hlbší pohľad na predchádzanie vymysleným odpovediam nájdete v článku Predchádzanie vymysleným odpovediam v hlasovej AI. Aby agent vyhľadával živé fakty, napríklad stav objednávky, namiesto statického textu, pozrite Ako nechať hlasového agenta niečo vyhľadať.

Rozpočet rýchlosti

Telefonický rozhovor toleruje veľmi malé oneskorenie. Každý ďalší krok, napríklad hľadanie, pridáva čas. Zdroje držte upratané a malé, nevyhľadávajte viac pasáží, než odpoveď potrebuje, a časy odozvy testujte na skutočných hovoroch, nie na notebooku. Latencia hlasovej AI vysvetľuje, ako sa oneskorenie prejavuje a odkiaľ pochádza.

Udržujte aktuálnosť

Hodiny, ceny a pravidlá sa menia rýchlejšie, než si niekto spomenie upraviť znalostnú bázu. Vložte do spoločného kalendára opakujúce sa upozornenie: pred každou sezónou, sviatkom alebo zmenou cien vlastník obsahu skontroluje zdroje a znova ich indexuje. Po zmene zavolajte agentovi sám a opýtajte sa na to, čo sa zmenilo. Tridsaťsekundová kontrola predchádza dňu nesprávnych odpovedí.

Testujte pred spustením aj po ňom

Zostavte zoznam otázok v troch skupinách: otázky, na ktoré obsah odpovedá jasne, otázky, na ktoré odpovedá čiastočne, a otázky, ktoré nepokrýva. Pri každej zaznamenajte, čo agent povie. Skontrolujte, či je to správne, dosť krátke na vyslovenie, a či pri tretej skupine prizná, že nevie. Zoznam spustite znova vždy, keď sa zmení obsah.

Postup testovania

  • Každú bežnú otázku položte v dvoch či troch formuláciách.
  • Tie isté otázky položte so zašumenou linkou alebo silným prízvukom.
  • Opýtajte sa na niečo, čo obsah neobsahuje.
  • Položte otázku s pascou, napríklad starou cenou alebo zatvoreným dňom.
  • Počúvajte odpovede, ktoré sú príliš dlhé na sledovanie sluchom.
  • Prvý mesiac týždenne kontrolujte prepisy skutočných hovorov.

Opravy, ktoré vydržia

Keď človek nájde nesprávnu odpoveď, oprava prepisu nestačí; oprava sa má vrátiť do znalostnej bázy, aby agent nabudúce odpovedal správne. Určte, kto smie takúto zmenu urobiť, a veďte históriu zmien.

Ako na to v Call

V Call znalosti patria AI agentovi a pridávajú sa v časti Zdroje:

Úložisko je zdieľané v rámci organizácie, s limitmi na zdroj, a zdroje môžu pridávať, meniť alebo mazať len správcovia pracovného priestoru. Pruh zobrazí, keď živé hovory znalostnú bázu zatiaľ nepoužívajú. História hovorov vám umožní opraviť odpoveď, ktorú agent dal, a ak chcete, uložiť ju ako správnu odpoveď na nabudúce. Začnite článkami Používanie zdrojov znalostí v Call a Budovanie znalostnej bázy pre podporu a AI.

Často kladené otázky

Je RAG to isté ako trénovanie modelu na mojich údajoch?

Nie. Trénovanie mení samotný model. RAG nechá model nezmenený a v momente otázky mu dá relevantné pasáže z vášho obsahu, čo sa ľahšie aktualizuje a ľahšie kontroluje.

Zabráni RAG hlasovému agentovi vymýšľať si?

Znižuje problém, ale neodstráni ho. Agent môže stále zle pochopiť pasáž alebo odpovedať na otázku, ktorú váš obsah nepokrýva. Jasné pokyny, dobrý obsah a pravidelné testovanie držia chyby nízko.

Koľko obsahu potrebujem?

Menej, než väčšina ľudí čaká. Niekoľko desiatok presných párov otázka–odpoveď, ktoré pokrývajú vaše najčastejšie hovory, často prekoná veľký neupravený archív. Ďalšie pridajte, keď skutočné hovory ukážu medzery.

Môže agent použiť obsah z PDF?

Zvyčajne áno, ak má PDF označiteľný text. Naskenované PDF len z obrázkov potrebujú najprv rozpoznanie textu. Skontrolujte, čo systém vyextrahoval, pretože tabuľky a stĺpce môžu vyjsť pomiešané.

Ako často mám znalostnú bázu aktualizovať?

Vždy, keď sa zmenia fakty, a v pravidelnom termíne kontroly pre všetko ostatné. Každému zdroju dajte vlastníka, aby aktualizácie nezostali na náhodu.

Pridajte svojmu AI agentovi zdroje znalostí a skontrolujte jeho odpovede v Call

V demo konzole si môžete vyskúšať prichádzajúce hovory v simulácii.

Súvisiace príručky