Technologia głosowej AI

Jak zapobiegać zmyślonym odpowiedziom głosowej AI przez telefon

Dlaczego agenci głosowi czasem mówią nieprawdę i co to ogranicza: oparte na faktach źródła, bezpieczne odpowiedzi awaryjne, pytania-pułapki i przeglądy.

Redakcja Call · Opublikowano · Czas czytania: 5 min

Zapytaj agenta głosowego o godziny otwarcia, a odpowie płynnie. Problem pojawia się, gdy równie płynnie odpowiada na temat czegoś, o czym nikt mu nie powiedział. To właśnie nazywa się halucynacją: odpowiedź, która brzmi dobrze, ale nie ma podstaw w Twoich informacjach.

Osoba uważnie słucha rozmowy telefonicznej przy biurku
Obraz poglądowy

Na linii telefonicznej ryzyko jest większe niż w oknie czatu. Dzwoniący słyszy jedno pewne siebie zdanie – bez linku, bez źródła i bez łatwej możliwości powrotu. Ten przewodnik wyjaśnia, dlaczego pojawiają się halucynacje, jak je ograniczać i jak sprawdzić, czy poprawki działają.

Czym jest halucynacja i skąd się bierze

Model językowy tworzy najbardziej prawdopodobną kontynuację rozmowy. Został wytrenowany na ogromnych ilościach tekstu i nie ma wbudowanego poczucia, które stwierdzenia są prawdziwe w odniesieniu do Twojej firmy. Gdy odpowiedzi brakuje w prompcie lub źródłach, model może wypełnić lukę czymś, co wygląda rozsądnie.

Typowe przyczyny u agenta telefonicznego

  • Brakujące informacjeDzwoniący pyta o coś, czego nikt nie spisał, więc model improwizuje.
  • Nieaktualne informacjeW źródle pozostaje stara cena lub godzina otwarcia.
  • Niejednoznaczne źródłaDwa dokumenty są sprzeczne, a agent wybiera jeden.
  • Presja, by być pomocnymPrompt, który każe zawsze odpowiadać, zachęca do zgadywania.
  • Błędy rozpoznawania mowyŹle usłyszane słowo zmienia pytanie, więc agent odpowiada na inne.

Ostatnią przyczynę łatwo przeoczyć. Jeśli w transkrypcji jest „wtorek”, a dzwoniący powiedział „czwartek”, odpowiedź może być całkowicie poprawna – tyle że na złe pytanie. Skąd biorą się błędy rozpoznawania, opisujemy w artykule Rozpoznawanie mowy w rozmowach telefonicznych.

Jak to wygląda w praktyce

Hipotetyczny gabinet stomatologiczny może przekazać agentowi godziny otwarcia i listę usług. Dzwoniący pyta, czy gabinet honoruje określony plan ubezpieczenia. Bez informacji na ten temat nieostrożny agent może odpowiedzieć „tak”, bo wiele gabinetów to robi. Dzwoniący przychodzi, licząc na refundację, i jest niezadowolony. Rozwiązaniem nie jest mądrzejszy model, lecz jasna instrukcja i źródło, które mówi, co robić, gdy odpowiedź jest nieznana.

Typowe tematy wysokiego ryzyka to ceny, dostępność, porady prawne lub medyczne, obietnice zwrotu pieniędzy i wszystko, co brzmi jak zobowiązanie. Oznacz je jako obszary, w których agent nie może improwizować.

Dlaczego głos to pogarsza

Pisemna odpowiedź chatbota może zawierać link, zastrzeżenie lub widoczną listę źródeł. Mowa nie niesie żadnej z tych rzeczy. Syntetyczne głosy są też gładkie i równe, więc domysł brzmi dokładnie jak fakt; nie ma wahania, które ostrzegłoby dzwoniącego. Dzwoniący często od razu działają na podstawie tego, co usłyszeli: dokądś jadą, coś odwołują lub za coś płacą.

Dlatego projektując agentów telefonicznych, warto skłaniać się ku powściągliwości. Krótka, uczciwa odpowiedź, która kieruje do człowieka, kosztuje kilka sekund. Pewna siebie, błędna odpowiedź może kosztować klienta. Decydując, jak surowe mają być zasady, pomyśl o najgorszej realnej konsekwencji błędnej odpowiedzi w każdym temacie i odpowiednio ustaw regułę: łagodną dla godzin otwarcia, surową dla wszystkiego, co dotyczy pieniędzy, zdrowia lub praw.

Jak ograniczać zmyślone odpowiedzi

Podejście warstwowe

  1. Oprzyj agenta na faktachDaj mu zatwierdzone fakty i poleć odpowiadać wyłącznie na ich podstawie.
  2. Zdefiniuj niewiadomeNapisz, co ma mówić, gdy nie zna odpowiedzi.
  3. Ogranicz zobowiązaniaZabroń obietnic, których nie może dotrzymać, takich jak rabaty czy potwierdzone rezerwacje.
  4. Zaproponuj drogęZawsze dawaj jako następny krok człowieka, wiadomość lub oddzwonienie.
  5. Testuj i przeglądajZadawaj pytania spoza źródeł i czytaj prawdziwe transkrypcje.

Opieraj go na zatwierdzonych źródłach

Wyszukiwanie (retrieval) oznacza odnajdywanie w Twoich dokumentach fragmentów pasujących do pytania w momencie, gdy pada, i przekazywanie modelowi tylko ich. Dzięki temu odpowiedzi pozostają powiązane z tekstem, który napisano. Artykuł Wyszukiwanie wiedzy dla agentów głosowych wyjaśnia tę ideę, a artykuł Źródła wiedzy w Call pokazuje, jak wygląda to w produkcie.

Pisz krótkie, jednoznaczne fakty

Jeden fakt na wpis, wraz z warunkiem, działa lepiej niż długa broszura. Zamiast „Jesteśmy otwarci w weekendy” napisz „Sobota 9–13, niedziela nieczynne”. Jeśli temat ma wyjątki, podaj je w tym samym wpisie.

Używaj dokładnych odpowiedzi na kluczowe pytania

Przy pytaniach, w których liczy się sformułowanie, np. zasadach odwoływania, daj agentowi dokładną odpowiedź do odczytania. W Call możesz dodać pytanie i dokładną odpowiedź, której agent ma udzielić, więc nie musi parafrazować.

Naucz go mówić „nie wiem”

Uczciwe „Nie mogę tego potwierdzić w tej rozmowie, ale mogę zapisać dane, a ktoś się odezwie” jest znacznie lepsze niż domysł. W Call agent jest zaprojektowany tak, by wprost mówić, że nie może czegoś potwierdzić, gdy nic w jego instrukcjach ani źródłach nie odpowiada na pytanie, i proponować rozmowę z człowiekiem tam, gdzie linia pozwala przełączyć dzwoniącego. Nigdy też nie wymyśla cen, godzin, dat ani innych faktów, których nie podają Twoje instrukcje i źródła, a instrukcje nie mogą wyłączyć tych zasad.

Odpowiedzi oparte na faktach a nieoparte

To samo pytanie, dwie konfiguracje

Agent bez oparcia w źródłachAgent oparty na źródłach
Źródło odpowiedziWiedza ogólna i wiarygodnie brzmiące domysłyWyłącznie Twoje zatwierdzone fakty
Gdy brakuje informacjiWymyśla coś płynnegoMówi, że nie może potwierdzić, proponuje następny krok
Ryzyko dla dzwoniącegoMoże działać na podstawie błędnych danychWie, co jest niepewne
UtrzymanieŁatwy start, trudno mu zaufaćWymaga aktualnych źródeł

Celowo testuj pod kątem halucynacji

Nie czekaj, aż luki znajdzie klient. Przygotuj mały zestaw pytań-pułapek i uruchamiaj go przy każdej zmianie promptu lub źródeł.

Zestaw testów na halucynacje

  • Zapytaj o usługę, której nie oferujesz
  • Zapytaj o cenę, której nie ma w źródłach
  • Zapytaj o wyjątek od zasad, którego nikt nie spisał
  • Zapytaj o datę w odległej przyszłości
  • Zadaj pytanie inaczej sformułowane niż Twoje spisane odpowiedzi
  • Zapytaj o coś, co brzmi podobnie do opisanego tematu
  • Sprawdź, czy każda niewiadoma kończy się bezpiecznym następnym krokiem

Powtarzaj zestaw po zmianach i dodawaj do niego każdy prawdziwy błąd, który znajdziesz. Szerszy proces testowania opisujemy w artykule Testowanie agenta głosowej AI.

Obserwuj dalej po uruchomieniu

Kontrola halucynacji to nie jednorazowe zadanie. Informacje się zmieniają, pojawiają się nowe pytania, a prompty dryfują, gdy ludzie je edytują. Ustal rutynę: co tydzień czytaj próbkę transkrypcji, szukaj zwrotów sygnalizujących wątpliwości i aktualizuj źródła. W Call możesz otworzyć pełny przebieg dowolnego połączenia, przeszukać wszystkie przechowywane transkrypcje pod kątem frazy i zobaczyć historię poprawek wprowadzonych do wypowiedzi agenta. Pamiętaj, że transkrypcje są przechowywane przez ograniczony czas, więc przeglądaj je na bieżąco.

Jak zastosować to w Call

Zacznij od spisania najczęstszych pytań jako dokładnych par pytanie–odpowiedź, dodaj krótkie źródła faktów dla wszystkiego innego i przypisz agenta do linii dopiero po testach. Jeśli potrzebujesz pomocy w pisaniu promptów zniechęcających do zgadywania, przeczytaj artykuł Promptowanie agenta telefonicznego opartego na LLM. Zabezpieczenia, które uzupełniają tę pracę, opisujemy w artykule Zabezpieczenia agentów głosowej AI.

Najczęstsze pytania

Czym jest halucynacja głosowej AI?

To odpowiedź, która brzmi pewnie, ale nie wynika z Twoich informacji, na przykład zmyślona cena lub zasada. Zdarza się, gdy model wypełnia lukę, zamiast przyznać, że nie wie.

Czy halucynacje można całkowicie wyeliminować?

Żadne narzędzie tego nie obieca. Możesz je znacznie ograniczyć, ograniczając to, co agent może mówić, utrzymując aktualne źródła i dając mu bezpieczną odpowiedź awaryjną, ale testy i przeglądy trzeba prowadzić dalej.

Dlaczego agent odpowiada na pytanie, którego go nie uczono?

Modele językowe są budowane tak, by tworzyć wiarygodnie brzmiący tekst. Bez jasnej instrukcji, by trzymać się źródeł i mówić, gdy czegoś nie może potwierdzić, może improwizować.

Czy źle usłyszane słowo to to samo co halucynacja?

Nie do końca. Źle usłyszane słowo to błąd rozpoznawania, ale może prowadzić do błędnej odpowiedzi, która wygląda jak halucynacja. Sprawdź transkrypcję, by ustalić, co się stało.

Które tematy są najbardziej ryzykowne?

Ceny, dostępność, porady medyczne lub prawne, zwroty pieniędzy oraz wszelkie obietnice i zobowiązania. Daj agentowi dokładne sformułowania lub przekazanie do człowieka w tych sprawach.

Jak często przeglądać transkrypcje?

Na starcie codziennie lub co kilka dni, potem co tydzień. Po zmianach promptu lub źródeł przeglądaj je częściej.

Opieraj agenta AI na zatwierdzonych odpowiedziach w Call

W konsoli demo możesz wypróbować połączenia przychodzące w symulacji.

Powiązane poradniki