RAG для голосовых агентов: ответы на основе вашего контента
Как генерация с дополнением поиском (RAG) позволяет телефонному ИИ отвечать по вашим документам и FAQ: подготовка контента, снижение ошибок и проверка ответов.
Языковая модель многое знает о мире и ничего не знает о вашем бизнесе. Она не знает ваших часов работы, правил отмены или имени техника, занимающегося ремонтом котлов. Если попросить её ответить на вопрос звонящего без этой информации, она может угадывать. Генерация с дополнением поиском, обычно сокращаемая до RAG, — стандартное средство: найти нужную часть вашего контента, передать её модели вместе с вопросом и попросить ответить по этому материалу.

В руководстве объясняется, как работает RAG в контексте телефонных звонков, как подготовить для него контент, где он ошибается и как его проверять. О предыстории конвейера см. Как работает голосовой ИИ: STT, LLM и TTS.
Как RAG работает в звонке
Когда звонящий задаёт вопрос, голосовой агент с RAG обычно делает следующее:
Путь поиска
- СлушаетРаспознавание речи превращает слова звонящего в текст.
- ИщетСистема ищет в вашем контенте фрагменты, связанные с вопросом.
- ОтбираетОставляет несколько самых подходящих фрагментов и отбрасывает остальные.
- СоставляетЯзыковая модель пишет короткий ответ на основе вопроса и этих фрагментов.
- ПроизноситСинтез речи зачитывает ответ вслух.
Почему не дать модели всё?
Можно попробовать вставить весь контент в инструкции. Но рабочее пространство модели ограничено, длинные инструкции замедляют ответы, а большая груда текста облегчает модели пропуск единственной важной строки. Поиск держит рабочий набор небольшим и релевантным.
Что значит «поиск»
Поиск может быть по ключевым словам, по смыслу (находит фрагменты с похожим смыслом, даже если слова иные) или смешанным. Поиск по смыслу помогает, когда звонящие формулируют вопрос неожиданно, например «можно прийти в воскресенье?», а в вашем контенте сказано «часы работы в выходные». Каким бы ни был метод, фрагменты — это небольшие куски ваших документов, поэтому способ, которым вы пишете и делите контент, напрямую влияет на то, что находится.
Выбор и подготовка контента
«Что заложишь, то и получишь» здесь особенно верно. Голосовой агент не может быть точнее материала, на котором он основан.
Распространённые источники контента
- FAQ и пары «вопрос — ответ»Точные ответы на конкретные вопросы; самый надёжный источник для частых звонков.
- Веб-страницыСуществующие страницы об услугах, часах и правилах, прочитанные один раз или собранные по всему сайту.
- ДокументыPDF и файлы текстовых редакторов с прайс-листами, меню или процедурами, если текст выделяется.
- Свободный текстЗаметки для правил, которые больше никуда не вписываются, например как действовать в праздник.
- Исправления по реальным звонкамОтветы, исправленные человеком после прослушивания звонка.
Пишите для слуха
Контент, написанный для чтения, часто звучит странно вслух. Таблицы, длинные списки и сокращения вслух не работают. Перепишите ключевые ответы простыми предложениями, по одному факту на предложение, и пропишите, как произносить числа и время. Делайте каждый фрагмент самодостаточным, чтобы он был понятен без окружающей страницы.
Уберите противоречия
Если одна страница говорит, что вы закрываетесь в пять, а другая — в шесть, агент скажет одно из двух наугад. Прежде чем что-то импортировать, найдите старые страницы, черновики и дубликаты файлов и обновите или удалите их. Ставьте даты на правила, чтобы побеждала самая новая версия.
Решите, что вне границ
Скажите агенту, на что он не должен отвечать: юридические, медицинские или финансовые советы, всё, что касается счёта конкретного человека, или темы, которые вы решаете только через человека. Правильный ответ — вежливая передача сотруднику. См. Ограничения голосового ИИ.
Где RAG ошибается
RAG снижает галлюцинации, но не устраняет их. Типичные сбои:
Виды сбоев
| Что происходит | Способ исправить | |
|---|---|---|
| Ничего подходящего не найдено | Агент импровизирует из общих знаний. | Поручите ему сказать, что он не знает, и предложить сотрудника; добавьте недостающий контент. |
| Найден не тот фрагмент | Используется похожее по звучанию правило для другой услуги. | Перепишите фрагменты с чёткими заголовками; разделите похожие темы. |
| Устаревший контент | Агент называет часы прошлого года. | Назначьте каждому источнику ответственного и дату пересмотра. |
| Слишком длинный результат поиска | Слишком много текста замедляет ответ и запутывает его. | Используйте более короткие, целевые фрагменты. |
| Вопрос расслышан неверно | Ошибки распознавания речи ведут к неверному поиску. | Проверяйте на шумном аудио и с акцентами; подтверждайте важные детали. |
Подробнее о предотвращении выдуманных ответов читайте в материале Как предотвратить выдуманные ответы в голосовом ИИ. Чтобы агент искал актуальные факты, например статус заказа, а не статичный текст, см. Как дать голосовому агенту искать актуальные данные.
Бюджет скорости
Телефонный разговор терпит очень мало задержки. Каждый дополнительный шаг, например поиск, добавляет время. Держите источники аккуратными и небольшими, не извлекайте больше фрагментов, чем нужно для ответа, и проверяйте время ответа на реальных звонках, а не на ноутбуке. Задержка голосового ИИ объясняет, как ощущаются задержки и откуда они берутся.
Поддерживайте актуальность
Часы, цены и правила меняются быстрее, чем кто-либо вспоминает править базу знаний. Поставьте повторяющееся напоминание в общий календарь: перед каждым сезоном, праздником или изменением цен ответственный за контент пересматривает источники и переиндексирует их. После изменения позвоните агенту сами и спросите о том, что изменилось. Проверка в тридцать секунд предотвращает день неверных ответов.
Проверяйте до и после запуска
Составьте список вопросов в трёх группах: вопросы, на которые контент отвечает чётко, вопросы, на которые отвечает частично, и вопросы, которые он не покрывает. Для каждого записывайте, что говорит агент. Проверьте, что ответ верен, достаточно короток для устной речи, а для третьей группы агент признаёт, что не знает. Прогоняйте список заново при каждом изменении контента.
Процедура проверки
- Задавайте каждый частый вопрос в двух-трёх разных формулировках.
- Задавайте те же вопросы с шумной линией или сильным акцентом.
- Спросите о том, чего в контенте нет.
- Задайте вопрос с ловушкой, например старая цена или закрытый день.
- Слушайте ответы, слишком длинные, чтобы воспринимать на слух.
- В первый месяц еженедельно просматривайте расшифровки реальных звонков.
Исправления, которые закрепляются
Когда человек находит неверный ответ, недостаточно исправить расшифровку; исправление должно вернуться в базу знаний, чтобы агент ответил верно в следующий раз. Решите, кому разрешено вносить такие изменения, и ведите историю изменений.
Как это делается в Call
В Call знания принадлежат ИИ-агенту и добавляются в разделе «Источники»:
- Вопросы и ответы. Добавьте вопрос и его точный ответ и используйте «проверить вопрос», чтобы увидеть, что находит для него база знаний.
- Веб-сайт. Прочитайте одну страницу, весь сайт или выбранные страницы; страницы, которые robots.txt сайта просит не читать роботам, исключаются.
- Файлы. Загружайте файлы PDF, Word, текст, markdown, CSV или JSON. В PDF должен быть выделяемый текст; PDF только с изображениями нужно сначала распознать.
- Текст. Добавляйте заметки свободным текстом.
- Переиндексация. Перестройте поиск агента после многих изменений.
Хранилище общее для организации, с ограничениями по источникам, а добавлять, менять или удалять источники могут только менеджеры рабочего пространства. Баннер показывает, когда живые звонки ещё не используют базу знаний. История звонков позволяет исправить ответ, данный агентом, и при желании сохранить его как верный для следующего раза. Начните с материалов Источники знаний в Call и Создание базы знаний для поддержки и ИИ.
Частые вопросы
Равносильно ли RAG обучению модели на моих данных?
Нет. Обучение меняет саму модель. RAG оставляет модель без изменений и в момент вопроса даёт ей подходящие фрагменты вашего контента, что проще обновлять и проще проверять.
Не даёт ли RAG голосовому агенту выдумывать?
Он уменьшает проблему, но не устраняет её. Агент всё равно может неверно прочитать фрагмент или ответить на вопрос, который ваш контент не покрывает. Чёткие инструкции, хороший контент и регулярное тестирование удерживают ошибки на низком уровне.
Сколько контента нужно?
Меньше, чем думает большинство. Несколько десятков точных пар «вопрос — ответ», покрывающих самые частые звонки, часто работают лучше большого неотредактированного архива. Добавляйте по мере того, как реальные звонки показывают пробелы.
Может ли агент использовать содержимое PDF?
Обычно да, если в PDF есть выделяемый текст. Отсканированные PDF только с изображениями нужно сначала распознать. Проверьте, что извлекла система, потому что таблицы и колонки могут перемешаться.
Как часто обновлять базу знаний?
Всякий раз, когда меняются факты, и по регулярной дате пересмотра для всего остального. Назначьте каждому источнику ответственного, чтобы обновления не зависели от случая.