RAG для голосових агентів: відповіді з вашого власного контенту
Як RAG дозволяє телефонному ШІ відповідати з ваших документів і FAQ: підготовка контенту, обмеження помилок і тестування відповідей.
Мовна модель знає багато про світ і нічого про ваш бізнес. Вона не знає ваших годин роботи, політики скасування чи імені майстра, що ремонтує котли. Якщо попросити її відповісти на запитання абонента без цієї інформації, вона може вгадувати. Генерація з доповненням пошуком, зазвичай скорочено RAG, — стандартний засіб: знайти відповідну частину вашого контенту, передати її моделі разом із запитанням і попросити відповісти з цього матеріалу.

Цей посібник пояснює, як RAG працює в контексті телефонних дзвінків, як підготувати контент, де він помиляється і як його тестувати. Про загальний конвеєр див. Як працює голосовий ШІ: STT, LLM і TTS.
Як RAG працює під час дзвінка
Коли абонент ставить запитання, голосовий агент з RAG зазвичай робить таке:
Шлях пошуку
- СлухатиРозпізнавання мовлення перетворює слова абонента на текст.
- ШукатиСистема шукає у вашому контенті уривки, пов'язані із запитанням.
- ВідібратиВона залишає кілька найбільш релевантних уривків і відкидає решту.
- СкластиМовна модель пише коротку відповідь, використовуючи запитання й ці уривки.
- ПромовитиСинтез мовлення озвучує відповідь.
Чому б не дати моделі все?
Можна спробувати вставити весь контент в інструкції. Але робочий простір моделі обмежений, довгі інструкції уповільнюють відповіді, а велика купа тексту полегшує моделі пропуск того єдиного рядка, що має значення. Пошук тримає робочий набір малим і релевантним.
Що означає «пошук»
Пошук може бути за ключовими словами, за змістом (знаходить уривки зі схожим значенням, навіть якщо слова різні) або змішаним. Пошук за змістом допомагає з абонентами, що формулюють запитання несподівано, наприклад «можна прийти в неділю?», коли у вашому контенті сказано «години у вихідні». Який би метод не використовувався, уривки — це невеликі шматки ваших документів, тож те, як ви пишете й ділите контент, безпосередньо впливає на знайдене.
Вибір і підготовка контенту
Якість на вході — якість на виході; тут це особливо правда. Голосовий агент може бути настільки точним, наскільки точний матеріал за ним.
Поширені джерела контенту
- FAQ та пари запитання-відповідьТочні відповіді на конкретні запитання; найнадійніше джерело для поширених дзвінків.
- Веб-сторінкиНаявні сторінки про послуги, години й політики, прочитані одноразово або зібрані по сайту.
- ДокументиPDF та файли текстових редакторів із прайсами, меню чи процедурами, якщо текст виділяється.
- Вільний текстНотатки для правил, що не вписуються деінде, наприклад як поводитися на свято.
- Виправлення з реальних дзвінківВідповіді, виправлені людиною після прослуховування дзвінка.
Пишіть для слуху
Контент, написаний для читання, часто звучить дивно вголос. Таблиці, довгі списки й скорочення не працюють на слух. Перепишіть ключові відповіді простими реченнями, з одним фактом на речення, і пропишіть, як вимовляти числа та час. Робіть кожен уривок самодостатнім, щоб він мав сенс без сторінки навколо.
Приберіть суперечності
Якщо одна сторінка каже, що ви закриваєтесь о п'ятій, а інша — о шостій, агент скаже одне з них навмання. Перш ніж щось імпортувати, знайдіть старі сторінки, чернетки й дублікати файлів, і оновіть або видаліть їх. Додавайте дати до політик, щоб перемагала найновіша.
Визначте, що поза межами
Скажіть агентові, на що він не повинен відповідати: юридичні, медичні чи фінансові поради, усе про акаунт конкретної людини або теми, які ви обробляєте лише людиною. Правильна реакція — ввічливо передати. Див. Запобіжники для голосових ШІ-агентів.
Де RAG помиляється
RAG зменшує галюцинації, але не усуває їх. Типові збої:
Режими збоїв
| Що відбувається | Засіб | |
|---|---|---|
| Нічого релевантного не знайдено | Агент імпровізує із загальних знань. | Доручіть йому сказати, що не знає, і запропонувати людину; додайте відсутній контент. |
| Знайдено хибний уривок | Використано схожу за звучанням політику іншої послуги. | Перепишіть уривки з чіткими заголовками; розділіть схожі теми. |
| Застарілий контент | Агент називає минулорічні години. | Дайте кожному джерелу власника й дату перегляду. |
| Надто довге вилучення | Забагато тексту уповільнює відповідь і плутає її. | Використовуйте коротші, сфокусовані уривки. |
| Хибно почуте запитання | Помилки розпізнавання мовлення ведуть до хибного пошуку. | Тестуйте на шумному аудіо й акцентах; підтверджуйте важливі деталі. |
Глибше про запобігання вигаданим відповідям див. Запобігання вигаданим відповідям у голосовому ШІ. Щоб агент шукав живі факти, як-от статус замовлення, а не статичний текст, див. Як дозволити голосовому агентові щось дізнаватися.
Бюджет швидкості
Телефонні розмови терплять дуже мало затримки. Кожен додатковий крок, як-от пошук, додає час. Тримайте джерела охайними й невеликими, не вилучайте більше уривків, ніж потрібно відповіді, і тестуйте час відповіді на реальних дзвінках, а не на ноутбуці. Затримка голосового ШІ пояснює, як відчувається затримка і звідки береться.
Підтримуйте актуальність
Години, ціни й політики змінюються швидше, ніж хтось встигає редагувати базу знань. Поставте регулярне нагадування в спільному календарі: перед кожним сезоном, святом чи зміною цін власник контенту переглядає джерела й переіндексує їх. Після зміни самі зателефонуйте агентові й запитайте про те, що змінилося. Тридцятисекундна перевірка запобігає дню хибних відповідей.
Тестуйте до й після запуску
Складіть перелік запитань у трьох групах: запитання, на які контент відповідає чітко, відповідає частково і які не покриває. Для кожного запишіть, що каже агент. Перевірте, що це правильно, достатньо коротко, щоб сказати вголос, і що для третьої групи він визнає, що не знає. Проганяйте перелік знову щоразу, коли змінюється контент.
Процедура тестування
- Ставте кожне поширене запитання в двох-трьох різних формулюваннях.
- Ставте ті самі запитання за шумної лінії чи з сильним акцентом.
- Запитуйте про те, чого немає в контенті.
- Ставте запитання з пасткою, наприклад зі старою ціною чи закритим днем.
- Слухайте відповіді, надто довгі, щоб стежити за ними на слух.
- Щотижня переглядайте транскрипти реальних дзвінків протягом першого місяця.
Виправлення, що закріплюються
Коли людина знаходить хибну відповідь, виправлення транскрипта недостатньо; виправлення має повернутися до бази знань, щоб наступного разу агент відповів правильно. Визначте, кому дозволено вносити таку зміну, і ведіть історію змін.
Як це зробити в Call
У Call знання належать ШІ-агентові й додаються в розділі «Джерела»:
- Q&A. Додайте запитання та його точну відповідь і скористайтеся «перевірити запитання», щоб побачити, що база знань знаходить для нього.
- Вебсайт. Прочитайте одну сторінку, весь сайт або обрані сторінки; сторінки, які robots.txt сайту просить не читати, пропускаються.
- Файли. Завантажте PDF, Word, текст, markdown, CSV або JSON. PDF має містити виділюваний текст; PDF лише із зображень потребують попереднього розпізнавання тексту.
- Текст. Додайте нотатки у вільній формі.
- Переіндексація. Перебудуйте пошук агента після багатьох змін.
Сховище спільне для організації, з обмеженнями на джерело, а додавати, змінювати чи видаляти джерела можуть лише менеджери робочого простору. Банер показує, коли живі дзвінки ще не використовують базу знань. Історія дзвінків дозволяє виправити відповідь, яку дав агент, і, якщо хочете, зберегти її як правильну для наступного разу. Почніть із матеріалів Використання джерел знань у Call та Створення бази знань для підтримки та ШІ.
Часті запитання
Чи RAG — це те саме, що навчання моделі на моїх даних?
Ні. Навчання змінює саму модель. RAG залишає модель незмінною і дає їй релевантні уривки з вашого контенту в момент запитання, що легше оновлювати й перевіряти.
Чи RAG не дає голосовому агентові вигадувати?
Він зменшує проблему, але не усуває. Агент усе ще може хибно прочитати уривок або відповісти на запитання, яке контент не покриває. Чіткі інструкції, хороший контент і регулярне тестування тримають помилки низькими.
Скільки контенту потрібно?
Менше, ніж більшість очікує. Кілька десятків точних пар запитання-відповідь, що покривають ваші найпоширеніші дзвінки, часто краще за великий нередагований архів. Додавайте, коли реальні дзвінки покажуть прогалини.
Чи може агент використовувати контент у PDF?
Зазвичай так, якщо PDF має виділюваний текст. Скановані PDF лише із зображень потребують попереднього розпізнавання тексту. Перевірте, що витягла система, бо таблиці й колонки можуть вийти перемішаними.
Як часто оновлювати базу знань?
Щоразу, коли змінюються факти, і за регулярною датою перегляду для решти. Дайте кожному джерелу власника, щоб оновлення не залежали від випадку.