Technologia głosowej AI

RAG dla agentów głosowych: odpowiedzi z Twoich własnych treści

Jak generowanie wspomagane wyszukiwaniem (RAG) pozwala telefonicznej AI odpowiadać z Twoich dokumentów i FAQ, z wskazówkami o treściach, błędach i testach.

Redakcja Call · Opublikowano · Czas czytania: 5 min

Model językowy wie dużo o świecie i nic o Twojej firmie. Nie zna Twoich godzin otwarcia, zasad anulowania ani nazwiska technika zajmującego się naprawą kotłów. Jeśli poprosisz go o odpowiedź na pytanie dzwoniącego bez tych informacji, może zgadywać. Generowanie wspomagane wyszukiwaniem, zwykle skracane do RAG, to standardowe lekarstwo: znajdź odpowiednią część własnych treści, przekaż ją modelowi razem z pytaniem i poproś o odpowiedź na podstawie tego materiału.

Osoba układa wydrukowane dokumenty obok laptopa, przygotowując bazę wiedzy dla asystenta
Obraz poglądowy

Ten poradnik wyjaśnia, jak RAG działa w kontekście rozmów telefonicznych, jak przygotować dla niego treści, gdzie zawodzi i jak go testować. Tło dotyczące całego potoku znajdziesz w artykule Jak działa głosowa AI: STT, LLM i TTS.

Jak RAG działa w rozmowie

Gdy dzwoniący zadaje pytanie, agent głosowy z RAG zwykle robi to:

Ścieżka wyszukiwania

  1. SłuchaRozpoznawanie mowy zamienia słowa dzwoniącego w tekst.
  2. SzukaSystem przeszukuje Twoje treści pod kątem fragmentów związanych z pytaniem.
  3. WybieraZachowuje kilka najtrafniejszych fragmentów i odrzuca resztę.
  4. RedagujeModel językowy pisze krótką odpowiedź na podstawie pytania i tych fragmentów.
  5. MówiZamiana tekstu na mowę odczytuje odpowiedź na głos.

Dlaczego nie dać modelowi wszystkiego?

Możesz spróbować wkleić całą treść do instrukcji. Ale przestrzeń robocza modelu jest ograniczona, długie instrukcje spowalniają odpowiedzi, a duży stos tekstu ułatwia modelowi przeoczenie tej jednej ważnej linijki. Wyszukiwanie utrzymuje zbiór roboczy mały i trafny.

Co znaczy „szukanie”

Wyszukiwanie może opierać się na słowach kluczowych, na znaczeniu (znajdowanie fragmentów o podobnym znaczeniu, nawet jeśli słowa się różnią) lub na mieszance. Wyszukiwanie według znaczenia pomaga, gdy dzwoniący formułują pytanie nieoczekiwanie, na przykład „czy mogę przyjść w niedzielę?”, gdy Twoje treści mówią o „godzinach w weekend”. Bez względu na metodę fragmenty to małe kawałki Twoich dokumentów, więc sposób pisania i dzielenia treści bezpośrednio wpływa na to, co zostanie znalezione.

Wybór i przygotowanie treści

Jakość na wejściu, jakość na wyjściu, i to szczególnie tutaj. Agent głosowy może być tak dokładny, jak materiał, który za nim stoi.

Typowe źródła treści

  • FAQ i pary pytanie-odpowiedźDokładne odpowiedzi na konkretne pytania; najbardziej niezawodne źródło dla częstych połączeń.
  • Strony internetoweIstniejące strony o usługach, godzinach i zasadach, wczytane jednorazowo lub przeszukane w całym serwisie.
  • DokumentyPliki PDF i edytora tekstu z cennikami, menu lub procedurami, jeśli tekst da się zaznaczyć.
  • Wolny tekstNotatki dla reguł, które nigdzie indziej nie pasują, na przykład jak obsłużyć święto.
  • Poprawki z prawdziwych rozmówOdpowiedzi poprawione przez człowieka po wysłuchaniu rozmowy.

Pisz na ucho

Treści pisane do czytania często brzmią dziwnie, gdy się je wypowie. Tabele, długie listy i skróty nie sprawdzają się na głos. Przepisz kluczowe odpowiedzi na zwykłe zdania, po jednym fakcie w zdaniu, i opisz, jak mają być wypowiadane liczby i godziny. Utrzymuj każdy fragment samodzielny, aby miał sens bez otaczającej strony.

Usuń sprzeczności

Jeśli jedna strona mówi, że zamykasz o piątej, a druga o szóstej, agent powie losowo jedno z nich. Przed zaimportowaniem czegokolwiek znajdź stare strony, wersje robocze i zduplikowane pliki oraz zaktualizuj je lub usuń. Dodaj daty do zasad, aby wygrywała najnowsza.

Zdecyduj, co jest poza granicami

Powiedz agentowi, na co nie ma odpowiadać: porady prawne, medyczne lub finansowe, wszystko o koncie konkretnej osoby albo tematy obsługiwane tylko przez człowieka. Właściwą reakcją jest uprzejme przekazanie. Zobacz Zabezpieczenia agentów głosowych AI.

Gdzie RAG zawodzi

RAG zmniejsza halucynacje, ale ich nie eliminuje. Typowe błędy to:

Rodzaje błędów

Co się dziejeŚrodek zaradczy
Nic trafnego nie znalezionoAgent improwizuje z wiedzy ogólnej.Nakaż mu powiedzieć, że nie wie, i zaproponować człowieka; dodaj brakujące treści.
Znaleziono zły fragmentUżywana jest podobnie brzmiąca zasada dla innej usługi.Przepisz fragmenty z wyraźnymi tytułami; rozdziel podobne tematy.
Nieaktualne treściAgent podaje zeszłoroczne godziny.Nadaj każdemu źródłu właściciela i datę przeglądu.
Zbyt długie wynikiZbyt dużo tekstu spowalnia odpowiedź i zaciemnia ją.Używaj krótszych, skupionych fragmentów.
Źle usłyszane pytanieBłędy rozpoznawania mowy prowadzą do złego wyszukiwania.Testuj z zaszumionym dźwiękiem i akcentami; potwierdzaj ważne szczegóły.

Głębiej o zapobieganiu zmyślonym odpowiedziom przeczytasz w artykule Jak zapobiegać zmyślonym odpowiedziom w głosowej AI. O tym, jak sprawić, by agent sprawdzał fakty na żywo, na przykład status zamówienia, zamiast statycznego tekstu, przeczytasz w artykule Jak pozwolić agentowi głosowemu sprawdzać informacje.

Budżet szybkości

Rozmowy telefoniczne tolerują bardzo małe opóźnienia. Każdy dodatkowy krok, jak wyszukiwanie, dodaje czas. Utrzymuj źródła uporządkowane i niewielkie, nie pobieraj więcej fragmentów, niż potrzebuje odpowiedź, i testuj czasy odpowiedzi na prawdziwych połączeniach, a nie na laptopie. Opóźnienia w głosowej AI wyjaśnia, jak odczuwane są opóźnienia i skąd się biorą.

Dbaj o aktualność

Godziny, ceny i zasady zmieniają się szybciej, niż ktokolwiek pamięta edytować bazę wiedzy. Ustaw cykliczne przypomnienie we wspólnym kalendarzu: przed każdym sezonem, świętem lub zmianą cen właściciel treści przegląda źródła i indeksuje je ponownie. Po zmianie zadzwoń do agenta i zapytaj o to, co się zmieniło. Trzydziestosekundowa kontrola zapobiega dniu błędnych odpowiedzi.

Testuj przed uruchomieniem i po nim

Sporządź listę pytań w trzech grupach: pytania, na które treści odpowiadają jasno, pytania, na które odpowiadają częściowo, i pytania, których nie obejmują. Dla każdego zapisz, co mówi agent. Sprawdź, czy jest poprawnie, na tyle krótko, by dało się to powiedzieć na głos, a dla trzeciej grupy czy przyznaje, że nie wie. Uruchamiaj listę ponownie przy każdej zmianie treści.

Rutyna testów

  • Zadaj każde częste pytanie na dwa lub trzy różne sposoby.
  • Zadaj te same pytania przy zaszumionej linii lub silnym akcencie.
  • Zapytaj o coś, czego treści nie zawierają.
  • Zadaj pytanie z pułapką, na przykład o starą cenę lub dzień zamknięcia.
  • Wsłuchaj się w odpowiedzi zbyt długie, by śledzić je na słuch.
  • W pierwszym miesiącu co tydzień przeglądaj transkrypcje prawdziwych rozmów.

Poprawki, które się utrwalają

Gdy człowiek znajdzie błędną odpowiedź, poprawienie transkrypcji nie wystarczy; poprawka powinna wrócić do bazy wiedzy, aby agent odpowiedział poprawnie następnym razem. Zdecyduj, kto może wprowadzać taką zmianę, i prowadź historię zmian.

Jak to zrobić w Call

W Call wiedza należy do agenta AI i jest dodawana w sekcji Sources:

Pamięć jest wspólna dla całej organizacji, z limitami na źródło, a dodawać, zmieniać i usuwać źródła mogą tylko menedżerowie przestrzeni roboczej. Baner pokazuje, gdy połączenia na żywo nie korzystają jeszcze z bazy wiedzy. Historia połączeń pozwala poprawić odpowiedź udzieloną przez agenta i, jeśli chcesz, zapisać ją jako poprawną na następny raz. Zacznij od artykułów Źródła wiedzy w Call oraz Budowa bazy wiedzy dla obsługi klienta i AI.

Najczęstsze pytania

Czy RAG to to samo co trenowanie modelu na moich danych?

Nie. Trenowanie zmienia sam model. RAG pozostawia model bez zmian i daje mu odpowiednie fragmenty Twoich treści w chwili pytania, co łatwiej aktualizować i łatwiej sprawdzać.

Czy RAG powstrzymuje agenta głosowego przed zmyślaniem?

Zmniejsza problem, ale go nie usuwa. Agent może nadal źle odczytać fragment lub odpowiedzieć na pytanie, którego Twoje treści nie obejmują. Jasne instrukcje, dobre treści i regularne testy utrzymują błędy na niskim poziomie.

Ile treści potrzebuję?

Mniej, niż większość osób oczekuje. Kilkadziesiąt dokładnych par pytanie-odpowiedź obejmujących najczęstsze połączenia często wypada lepiej niż duże, niezredagowane archiwum. Dodawaj więcej, gdy prawdziwe rozmowy pokażą luki.

Czy agent może korzystać z treści w plikach PDF?

Zwykle tak, jeśli PDF ma zaznaczalny tekst. Zeskanowane PDF-y tylko z obrazem wymagają najpierw rozpoznania tekstu. Sprawdź, co system wyodrębnił, bo tabele i kolumny mogą wyjść pomieszane.

Jak często aktualizować bazę wiedzy?

Gdy tylko zmienią się fakty, oraz w regularnym terminie przeglądu dla całej reszty. Nadaj każdemu źródłu właściciela, aby aktualizacje nie zależały od przypadku.

Dodaj źródła wiedzy do swojego agenta AI i sprawdzaj jego odpowiedzi w Call

W konsoli demo możesz wypróbować połączenia przychodzące w symulacji.

Powiązane poradniki