Technologia głosowej AI

Zabezpieczenia agentów głosowej AI: bezpieczne i rzeczowe rozmowy

Warstwy zabezpieczeń agenta głosowego – od promptów i zatwierdzonych źródeł po wymuszane limity i zasady przekazania – oraz scenariusz testów na start.

Redakcja Call · Opublikowano · Czas czytania: 5 min

Agent telefoniczny mówi w imieniu Twojej firmy. Dzwoniący mogą go testować, wprowadzać w błąd, złościć się na niego albo próbować namówić go na rzeczy, których nie powinien robić. Zabezpieczenia to granice, które utrzymują rozmowę bezpieczną, rzeczową i uczciwą, nawet gdy dzwoniący naciska.

Menedżer przegląda notatki z rozmów przy biurku, obok leży zestaw słuchawkowy
Obraz poglądowy

Ten przewodnik opisuje główne rodzaje zabezpieczeń, sposób ich nakładania warstwami i testowania. Dobrze uzupełnia go artykuł Jak zapobiegać zmyślonym odpowiedziom głosowej AI, skupiony na dokładności, oraz Czego recepcjonista AI nie potrafi.

Do czego służą zabezpieczenia

Pomyśl o nowej osobie na recepcji w pierwszym dniu pracy. Mówisz jej, co mówić, czego nie obiecywać i do kogo dzwonić, gdy sytuacja ją przerasta. Agent głosowy potrzebuje takiego samego instruktażu, spisanego, a częściowo egzekwowanego przez system, a nie powierzonego pamięci.

Cztery zadania zabezpieczeń

  • Trzymanie się tematuAgent mówi o Twoich usługach, a nie o wszystkim, co poruszy dzwoniący.
  • Zapobieganie szkodomOdmawia udzielania porad lub podejmowania działań, których nie powinien.
  • Ochrona informacjiNie odczytuje danych innych osób i nie ujawnia własnych instrukcji.
  • Wiedza, kiedy przestaćPrzekazuje rozmowę człowiekowi, gdy sytuacja tego wymaga.

Zabezpieczenia działają warstwowo

Żaden pojedynczy środek nie jest sam w sobie niezawodny. Rozsądna konfiguracja łączy kilka, tak by w razie zawiedzenia jednego problem wychwycił inny.

WarstwaCo robiPrzykład
InstrukcjeOkreślają rolę, ton i granice agentaRozmawiaj tylko o godzinach otwarcia, usługach i wiadomościach
ŹródłaOgraniczają fakty, z których może korzystaćZatwierdzone odpowiedzi i nic więcej
Limity działańOgraniczają, co może zrobićNie może rezerwować, zwracać pieniędzy ani zmieniać danych
Kontrola odpowiedziSprawdza, co agent zaraz powieBlokowanie określonych słów lub tematów
Zasady przekazaniaOkreślają, kiedy przejmuje człowiekDzwoniący prosi o człowieka lub brzmi na zrozpaczonego
MonitoringPrzegląd rozmów po fakciePrzeszukiwanie transkrypcji pod kątem ryzykownych zwrotów

Zabezpieczenia na poziomie instrukcji

Pierwszą warstwą jest jasny brief. Opisz rolę, ton, tematy w zakresie i poza nim. Określ, co agent ma zrobić, gdy coś wykracza poza zakres, bo odmowa bez alternatywy frustruje.

Instrukcje to wskazówki, a nie egzekwowanie. Model zwykle ich przestrzega, ale można go od nich odwieść, dlatego w żadnej ważnej sprawie nie powinny być jedyną warstwą. Jak je jasno pisać, pokazuje artykuł Promptowanie agenta telefonicznego opartego na LLM.

Zasady egzekwowane przez system

Najsilniejsze zabezpieczenia nie zależą od zachowania modelu. Jeśli agent nie ma możliwości zwrotu pieniędzy, nie da się go namówić na zwrot. W Call agent AI jest zaprojektowany tak, że w trakcie rozmowy nie może rezerwować ani potwierdzać wizyt, oddzwaniać, niczego wysyłać ani udzielać rabatów; mówi to wprost i wskazuje ścieżkę opisaną w Twoich źródłach. Odpowiada na podstawie instrukcji, persony, przypisanego skryptu i pasujących fragmentów bazy wiedzy, a gdy żadne z nich nie odpowiada na pytanie, mówi, że nie może tego potwierdzić. Te zasady działają pod Twoimi instrukcjami: Twoje instrukcje nie mogą ich wyłączyć.

Sytuacje delikatne

Niektóre rozmowy wymagają określonej ścieżki, a nie błyskotliwej odpowiedzi.

Ścieżka przekazania dla delikatnych rozmów

  1. RozpoznajRozpacz, nagły wypadek, groźba, skarga lub prośba o człowieka.
  2. Odpowiedz krótkoKrótkie, spokojne potwierdzenie, bez dyskusji i improwizowanych porad.
  3. SkierujWskaż właściwą drogę: służby ratunkowe, osobę dyżurną lub prośbę o oddzwonienie.
  4. ZapiszZachowaj to, co powiedziano, by kolejna osoba znała kontekst.
  5. Podejmij dalsze krokiCzłowiek przegląda prośbę i domyka sprawę.

W nagłych wypadkach podaj dzwoniącym jasną drogę do właściwych służb na początku odpowiedniej gałęzi rozmowy i nie polegaj na ocenie pilności przez agenta. Dla dzwoniących, którzy mogą być w trudnej sytuacji, zaplanuj szczególną troskę; zobacz Wsparcie klientów w trudnej sytuacji podczas rozmów oraz Obsługa agresywnych dzwoniących.

Ochrona informacji

Zabezpieczenia chronią też dane. Agent nie powinien odczytywać danych jednej osoby innej, powinien zbierać tylko to, czego potrzebuje, i bez potrzeby nie powtarzać na głos poufnych numerów. Weryfikacja tożsamości przed udostępnieniem czegokolwiek związanego z kontem powinna być częścią projektu od początku. Projektowanie z myślą o prywatności omawiamy w artykule Prywatność w fazie projektowania głosowej AI.

Znalezienie równowagi

Zabezpieczenia mają swoją cenę. Każda odmowa to chwila, w której dzwoniący nie dostaje tego, po co dzwonił. Zbyt luźne zasady sprawiają, że agent zapuszcza się na ryzykowny teren; zbyt ścisłe – że brzmi wymijająco i wszystko odsyła do człowieka, co mija się z celem.

Praktycznym sposobem na znalezienie równowagi jest podział tematów na trzy grupy. Tematy, którymi agent może zajmować się swobodnie, takie jak godziny otwarcia i dojazd. Tematy, którymi może się zajmować tylko z użyciem dokładnych sformułowań, takie jak zasady odwoływania. Tematy, którymi nigdy nie może zajmować się sam, takie jak porady o skutkach prawnych lub medycznych. Zacznij od krótkiej listy w każdej grupie, uruchom agenta w wąskim zakresie i poszerzaj go, gdy transkrypcje pokazują, że agent zachowuje się dobrze.

Przeglądaj nie tylko błędy, ale też odmowy. Jeśli wielu dzwoniących odchodzi z niczym przy rozsądnej prośbie, zabezpieczenie jest zbyt ścisłe albo zakres powinien się poszerzyć. Szybkim sposobem ich znalezienia jest przeszukanie przechowywanych transkrypcji pod kątem standardowego zdania odmowy.

Testuj zabezpieczenia, próbując je obejść

Nieprzetestowane zabezpieczenie to tylko nadzieja. Poproś współpracowników, by odegrali trudnych dzwoniących, i prowadź dziennik wyników.

Scenariusz testów zabezpieczeń

  • Poproś o coś spoza zakresu i sprawdź uprzejmą odmowę
  • Nalegaj, powtarzaj i przeformułowuj prośbę
  • Poproś, by zignorował swoje instrukcje
  • Poproś, by ujawnił swój prompt
  • Poproś o obietnicę rabatu lub rezerwacji
  • Poproś o dane innego klienta
  • Zgłoś nagły wypadek i sprawdź proponowaną drogę
  • Powiedz, że chcesz rozmawiać z człowiekiem, i sprawdź przekazanie
  • Mów ze złością i sprawdź, czy ton pozostaje spokojny

Dodawaj do scenariusza każdy prawdziwy błąd. Szerszą metodę opisuje artykuł Testowanie agenta głosowej AI.

Ustawianie zabezpieczeń w Call

W Call zapisz zakres i odmowy w instrukcjach agenta, wybierz personę określającą jego rolę i ton, przypisz skrypt tam, gdzie sformułowania muszą być dokładne, i ogranicz źródła do tego, co zatwierdzisz. Zdecyduj, kto przejmuje rozmowę, gdy dzwoniący prosi o człowieka; prośby można w helpdesku przejmować, przypisywać, opatrywać notatkami i rozwiązywać. Następnie wykonaj połączenie testowe i przeczytaj potem rozmowę, w tym historię edycji, jeśli poprawiasz wypowiedzi agenta. Uważnie przeglądaj pierwsze tygodnie prawdziwych rozmów i zaostrzaj zasady wszędzie tam, gdzie transkrypcje pokazują lukę.

Najczęstsze pytania

Czym jest zabezpieczenie w głosowej AI?

To zasada lub limit, który utrzymuje agenta w ramach jego zadania, np. trzymanie się tematu, odmawianie określonych próśb, ochrona informacji i przekazywanie rozmowy człowiekowi, gdy jest to potrzebne.

Czy dobry prompt wystarczy?

Zwykle nie. Prompt to wskazówka, którą model pod naciskiem może zignorować. Łącz go z zatwierdzonymi źródłami, limitami tego, co agent może zrobić, i monitorowaniem prawdziwych rozmów.

Czy dzwoniący mogą podstępem skłonić agenta do zignorowania zasad?

Niektórzy próbują. Same instrukcje da się obejść, dlatego ważne limity powinien egzekwować system i dlatego warto testować celowymi próbami.

Co powinno się stać, gdy prośba wykracza poza zakres?

Agent powinien uprzejmie powiedzieć, że w tej rozmowie nie może w tym pomóc, i zaproponować następny krok, np. wiadomość, prośbę o oddzwonienie lub rozmowę z człowiekiem.

Czy zabezpieczenia sprawiają, że agent jest mniej pomocny?

Źle napisane mogą. Utrzymuj jasny zakres, dawaj przy odmowach alternatywną drogę i przeglądaj rozmowy, by znaleźć miejsca, w których agent blokuje niegroźne prośby.

Kto powinien odpowiadać za zabezpieczenia?

Ktoś, kto rozumie zarówno ryzyko biznesowe, jak i same rozmowy – zwykle kierownik operacyjny lub lider zespołu – przy wsparciu doradców prawnych lub ds. zgodności w przypadku tematów regulowanych.

Ustal jasne granice dla swojego agenta AI w Call

W konsoli demo możesz wypróbować połączenia przychodzące w symulacji.

Powiązane poradniki