RAG за гласови агенти: отговори от собственото ви съдържание
Как RAG позволява на телефонния AI да отговаря от вашите документи и ЧЗВ, със съвети за подготовка на съдържанието, ограничаване на грешките и тестване.
Езиковият модел знае много за света и нищо за вашия бизнес. Не знае работното ви време, политиката ви за отказ или името на техника, който се занимава с ремонт на бойлери. Ако го помолите да отговори на въпрос на обаждащ се без тази информация, може да налучква. Retrieval-augmented generation, обикновено съкращавано до RAG, е стандартното лекарство: намира се уместната част от вашето съдържание, подава се на модела заедно с въпроса и той се моли да отговори по този материал.

Това ръководство обяснява как работи RAG в контекста на телефонните обаждания, как да подготвите съдържание за него, къде греши и как да го тествате. За основите на конвейера вижте Как работи гласовият AI: STT, LLM и TTS.
Как работи RAG в обаждане
Когато обаждащият се зададе въпрос, гласов агент с RAG обикновено прави следното:
Пътят на извличането
- СлушанеРазпознаването на реч превръща думите на обаждащия се в текст.
- ТърсенеСистемата търси във вашето съдържание пасажи, свързани с въпроса.
- ИзборЗапазва няколкото най-уместни пасажа и изхвърля останалите.
- СъставянеЕзиковият модел пише кратък отговор, използвайки въпроса и тези пасажи.
- ИзговарянеСинтезираната реч чете отговора на глас.
Защо не дадем всичко на модела?
Можете да опитате да поставите цялото си съдържание в инструкциите. Но работното пространство на модела е ограничено, дългите инструкции забавят отговорите, а голяма купчина текст улеснява модела да пропусне единствения ред, който има значение. Извличането държи работния набор малък и уместен.
Какво означава „търсене“
Търсенето може да е по ключови думи, по смисъл (намира пасажи със сходен смисъл, дори думите да се различават) или комбинация. Търсенето по смисъл помага при обаждащи се, които формулират въпроса неочаквано, като „мога ли да дойда в неделя?“, когато съдържанието ви казва „работно време през уикенда“. Какъвто и метод да се използва, пасажите са малки късчета от документите ви, така че начинът, по който пишете и разделяте съдържанието, пряко влияе на това какво се намира.
Избор и подготовка на съдържание
Каквото влезе, такова излиза, и тук това важи особено. Гласовият агент може да е точен само колкото материалът зад него.
Често срещани източници на съдържание
- ЧЗВ и двойки въпрос-отговорТочни отговори на конкретни въпроси; най-надеждният източник за чести обаждания.
- Уеб странициСъществуващи страници за услуги, работно време и правила, прочетени еднократно или обходени в целия сайт.
- ДокументиPDF и файлове от текстообработка с ценови листи, менюта или процедури, ако текстът може да се избира.
- Свободен текстБележки за правила, които не пасват никъде другаде, като как да се обработи празник.
- Корекции от реални обажданияОтговори, поправени от човек след изслушване на обаждане.
Пишете за ухото
Съдържанието, писано за четене, често звучи странно на глас. Таблиците, дългите списъци и съкращенията не работят на глас. Преработете ключовите отговори в прости изречения, с по един факт на изречение, и опишете как да се изговарят числата и часовете. Дръжте всеки пасаж самодостатъчен, така че да има смисъл без страницата около него.
Премахнете противоречията
Ако една страница казва, че затваряте в пет, а друга в шест, агентът ще каже едното от тях на случаен принцип. Преди да импортирате каквото и да е, намерете стари страници, чернови и дублирани файлове и ги обновете или изтрийте. Добавяйте дати към правилата, за да печели най-новото.
Решете какво е извън границите
Кажете на агента на какво не бива да отговаря: правни, медицински или финансови съвети, всичко за акаунта на конкретен човек или теми, които обработвате само с човек. Правилният отговор е учтиво предаване. Вижте Предпазни мерки за гласови AI агенти.
Къде RAG греши
RAG намалява халюцинациите, но не ги премахва. Типични провали са:
Видове провали
| Какво се случва | Лекарство | |
|---|---|---|
| Не е намерено нищо уместно | Агентът импровизира от общи знания. | Инструктирайте го да казва, че не знае, и да предлага човек; добавете липсващото съдържание. |
| Намерен е грешен пасаж | Използва се сходно звучаща политика за друга услуга. | Преработете пасажите с ясни заглавия; разделете сходни теми. |
| Остаряло съдържание | Агентът казва работното време от миналата година. | Дайте на всеки източник отговорник и дата на преглед. |
| Прекалено дълго извличане | Твърде много текст забавя отговора и го обърква. | Използвайте по-кратки, фокусирани пасажи. |
| Неправилно чут въпрос | Грешките на разпознаването на реч водят до грешно търсене. | Тествайте с шумен звук и акценти; потвърждавайте важните подробности. |
За по-задълбочен поглед върху предотвратяването на измислени отговори прочетете Предотвратяване на измислени отговори при гласов AI. За да накарате агента да търси актуални факти, като статуса на поръчка, вместо статичен текст, вижте Как да позволите на гласов агент да търси информация.
Бюджетът на скоростта
Телефонните разговори понасят много малко забавяне. Всяка допълнителна стъпка, като търсенето, добавя време. Дръжте източниците подредени и малки, избягвайте да извличате повече пасажи, отколкото отговорът изисква, и тествайте времето за отговор при реални обаждания, а не на лаптоп. Забавяне при гласов AI обяснява как се усещат забавянията и откъде идват.
Поддържайте актуалност
Работното време, цените и правилата се променят по-бързо, отколкото някой се сеща да редактира базата знания. Сложете повтарящо се напомняне в споделен календар: преди всеки сезон, празник или промяна на цени отговорникът за съдържанието преглежда източниците и ги индексира отново. След промяна позвънете сами на агента и попитайте за променения факт. Тридесетсекундна проверка предотвратява ден грешни отговори.
Тествайте преди и след пускане
Направете списък с въпроси в три групи: въпроси, на които съдържанието отговаря ясно, въпроси, на които отговаря частично, и въпроси, които не покрива. За всеки запишете какво казва агентът. Проверете дали е правилно, достатъчно кратко за изговаряне и дали за третата група признава, че не знае. Пускайте списъка отново при всяка промяна на съдържанието.
Рутина за тестване
- Задайте всеки често срещан въпрос в две-три различни формулировки.
- Задайте същите въпроси с шумна линия или силен акцент.
- Попитайте за нещо, което съдържанието не съдържа.
- Задайте въпрос с клопка, като стара цена или затворен ден.
- Слушайте за отговори, прекалено дълги, за да се следват на ухо.
- Преглеждайте седмично преписите на реални обаждания през първия месец.
Корекции, които се задържат
Когато човек намери грешен отговор, поправянето на преписа не е достатъчно; корекцията трябва да се върне в базата знания, за да отговаря агентът правилно следващия път. Решете кой има право да прави тази промяна и пазете история на промените.
Как се прави в Call
В Call знанията принадлежат на AI агент и се добавят в „Източници“:
- Въпроси и отговори. Добавете въпрос и точния му отговор и използвайте „провери въпрос“, за да видите какво намира базата знания за него.
- Уебсайт. Прочетете една страница, цял сайт или избрани страници; страниците, които robots.txt на сайта моли обходчиците да не четат, се пропускат.
- Файлове. Качвайте PDF, Word, текстови, markdown, CSV или JSON файлове. PDF трябва да има избираем текст; PDF само с изображения се нуждаят първо от разпознаване на текст.
- Текст. Добавяйте бележки със свободен текст.
- Повторно индексиране. Възстановете търсенето на агента след много промени.
Съхранението е споделено в организацията, с ограничения за източник, а само мениджърите на работното пространство могат да добавят, променят или изтриват източници. Банер показва кога живите обаждания още не използват базата знания. Историята на обажданията ви позволява да поправите отговор, даден от агента, и, ако желаете, да го запазите като верен отговор за следващия път. Започнете с Използване на източници на знания в Call и Изграждане на база знания за поддръжка и AI.
Често задавани въпроси
RAG същото ли е като обучение на модел с моите данни?
Не. Обучението променя самия модел. RAG оставя модела непроменен и му дава уместни пасажи от вашето съдържание в момента на въпроса, което е по-лесно за обновяване и по-лесно за проверка.
Спира ли RAG гласовия агент да си измисля?
Намалява проблема, но не го премахва. Агентът все още може да изтълкува погрешно пасаж или да отговори на въпрос, който съдържанието ви не покрива. Ясните инструкции, доброто съдържание и редовното тестване държат грешките ниски.
Колко съдържание ми трябва?
По-малко, отколкото повечето хора очакват. Няколко десетки точни двойки въпрос-отговор, покриващи най-честите ви обаждания, често превъзхождат голям нередактиран архив. Добавяйте още, когато реалните обаждания покажат пропуски.
Може ли агентът да използва съдържание от PDF?
Обикновено, ако PDF има избираем текст. Сканираните PDF само с изображения се нуждаят първо от разпознаване на текст. Проверете какво е извлякла системата, защото таблиците и колоните може да излязат разбъркани.
Колко често да обновявам базата знания?
Всеки път, когато фактите се променят, и на редовна дата за преглед за всичко останало. Дайте на всеки източник отговорник, за да не се оставят обновяванията на случайността.