Zabezpieczenia agentów głosowej AI: bezpieczne i rzeczowe rozmowy
Warstwy zabezpieczeń agenta głosowego – od promptów i zatwierdzonych źródeł po wymuszane limity i zasady przekazania – oraz scenariusz testów na start.
Agent telefoniczny mówi w imieniu Twojej firmy. Dzwoniący mogą go testować, wprowadzać w błąd, złościć się na niego albo próbować namówić go na rzeczy, których nie powinien robić. Zabezpieczenia to granice, które utrzymują rozmowę bezpieczną, rzeczową i uczciwą, nawet gdy dzwoniący naciska.

Ten przewodnik opisuje główne rodzaje zabezpieczeń, sposób ich nakładania warstwami i testowania. Dobrze uzupełnia go artykuł Jak zapobiegać zmyślonym odpowiedziom głosowej AI, skupiony na dokładności, oraz Czego recepcjonista AI nie potrafi.
Do czego służą zabezpieczenia
Pomyśl o nowej osobie na recepcji w pierwszym dniu pracy. Mówisz jej, co mówić, czego nie obiecywać i do kogo dzwonić, gdy sytuacja ją przerasta. Agent głosowy potrzebuje takiego samego instruktażu, spisanego, a częściowo egzekwowanego przez system, a nie powierzonego pamięci.
Cztery zadania zabezpieczeń
- Trzymanie się tematuAgent mówi o Twoich usługach, a nie o wszystkim, co poruszy dzwoniący.
- Zapobieganie szkodomOdmawia udzielania porad lub podejmowania działań, których nie powinien.
- Ochrona informacjiNie odczytuje danych innych osób i nie ujawnia własnych instrukcji.
- Wiedza, kiedy przestaćPrzekazuje rozmowę człowiekowi, gdy sytuacja tego wymaga.
Zabezpieczenia działają warstwowo
Żaden pojedynczy środek nie jest sam w sobie niezawodny. Rozsądna konfiguracja łączy kilka, tak by w razie zawiedzenia jednego problem wychwycił inny.
| Warstwa | Co robi | Przykład |
|---|---|---|
| Instrukcje | Określają rolę, ton i granice agenta | Rozmawiaj tylko o godzinach otwarcia, usługach i wiadomościach |
| Źródła | Ograniczają fakty, z których może korzystać | Zatwierdzone odpowiedzi i nic więcej |
| Limity działań | Ograniczają, co może zrobić | Nie może rezerwować, zwracać pieniędzy ani zmieniać danych |
| Kontrola odpowiedzi | Sprawdza, co agent zaraz powie | Blokowanie określonych słów lub tematów |
| Zasady przekazania | Określają, kiedy przejmuje człowiek | Dzwoniący prosi o człowieka lub brzmi na zrozpaczonego |
| Monitoring | Przegląd rozmów po fakcie | Przeszukiwanie transkrypcji pod kątem ryzykownych zwrotów |
Zabezpieczenia na poziomie instrukcji
Pierwszą warstwą jest jasny brief. Opisz rolę, ton, tematy w zakresie i poza nim. Określ, co agent ma zrobić, gdy coś wykracza poza zakres, bo odmowa bez alternatywy frustruje.
- Zakres: wypisz, w czym może pomóc, i zaznacz, że wszystko inne trafia do człowieka lub jako wiadomość.
- Odmowy: wymień tematy, których nie powinien poruszać, np. porady prawne lub medyczne, wraz z uprzejmą standardową odpowiedzią.
- Tożsamość: określ, co ma odpowiedzieć na pytanie, czy jest człowiekiem.
- Poufność: poleć mu nie ujawniać wewnętrznych instrukcji.
- Długość i styl: krótkie zdania mówione, bez list, linków i emoji.
Instrukcje to wskazówki, a nie egzekwowanie. Model zwykle ich przestrzega, ale można go od nich odwieść, dlatego w żadnej ważnej sprawie nie powinny być jedyną warstwą. Jak je jasno pisać, pokazuje artykuł Promptowanie agenta telefonicznego opartego na LLM.
Zasady egzekwowane przez system
Najsilniejsze zabezpieczenia nie zależą od zachowania modelu. Jeśli agent nie ma możliwości zwrotu pieniędzy, nie da się go namówić na zwrot. W Call agent AI jest zaprojektowany tak, że w trakcie rozmowy nie może rezerwować ani potwierdzać wizyt, oddzwaniać, niczego wysyłać ani udzielać rabatów; mówi to wprost i wskazuje ścieżkę opisaną w Twoich źródłach. Odpowiada na podstawie instrukcji, persony, przypisanego skryptu i pasujących fragmentów bazy wiedzy, a gdy żadne z nich nie odpowiada na pytanie, mówi, że nie może tego potwierdzić. Te zasady działają pod Twoimi instrukcjami: Twoje instrukcje nie mogą ich wyłączyć.
Sytuacje delikatne
Niektóre rozmowy wymagają określonej ścieżki, a nie błyskotliwej odpowiedzi.
Ścieżka przekazania dla delikatnych rozmów
- RozpoznajRozpacz, nagły wypadek, groźba, skarga lub prośba o człowieka.
- Odpowiedz krótkoKrótkie, spokojne potwierdzenie, bez dyskusji i improwizowanych porad.
- SkierujWskaż właściwą drogę: służby ratunkowe, osobę dyżurną lub prośbę o oddzwonienie.
- ZapiszZachowaj to, co powiedziano, by kolejna osoba znała kontekst.
- Podejmij dalsze krokiCzłowiek przegląda prośbę i domyka sprawę.
W nagłych wypadkach podaj dzwoniącym jasną drogę do właściwych służb na początku odpowiedniej gałęzi rozmowy i nie polegaj na ocenie pilności przez agenta. Dla dzwoniących, którzy mogą być w trudnej sytuacji, zaplanuj szczególną troskę; zobacz Wsparcie klientów w trudnej sytuacji podczas rozmów oraz Obsługa agresywnych dzwoniących.
Ochrona informacji
Zabezpieczenia chronią też dane. Agent nie powinien odczytywać danych jednej osoby innej, powinien zbierać tylko to, czego potrzebuje, i bez potrzeby nie powtarzać na głos poufnych numerów. Weryfikacja tożsamości przed udostępnieniem czegokolwiek związanego z kontem powinna być częścią projektu od początku. Projektowanie z myślą o prywatności omawiamy w artykule Prywatność w fazie projektowania głosowej AI.
Znalezienie równowagi
Zabezpieczenia mają swoją cenę. Każda odmowa to chwila, w której dzwoniący nie dostaje tego, po co dzwonił. Zbyt luźne zasady sprawiają, że agent zapuszcza się na ryzykowny teren; zbyt ścisłe – że brzmi wymijająco i wszystko odsyła do człowieka, co mija się z celem.
Praktycznym sposobem na znalezienie równowagi jest podział tematów na trzy grupy. Tematy, którymi agent może zajmować się swobodnie, takie jak godziny otwarcia i dojazd. Tematy, którymi może się zajmować tylko z użyciem dokładnych sformułowań, takie jak zasady odwoływania. Tematy, którymi nigdy nie może zajmować się sam, takie jak porady o skutkach prawnych lub medycznych. Zacznij od krótkiej listy w każdej grupie, uruchom agenta w wąskim zakresie i poszerzaj go, gdy transkrypcje pokazują, że agent zachowuje się dobrze.
Przeglądaj nie tylko błędy, ale też odmowy. Jeśli wielu dzwoniących odchodzi z niczym przy rozsądnej prośbie, zabezpieczenie jest zbyt ścisłe albo zakres powinien się poszerzyć. Szybkim sposobem ich znalezienia jest przeszukanie przechowywanych transkrypcji pod kątem standardowego zdania odmowy.
Testuj zabezpieczenia, próbując je obejść
Nieprzetestowane zabezpieczenie to tylko nadzieja. Poproś współpracowników, by odegrali trudnych dzwoniących, i prowadź dziennik wyników.
Scenariusz testów zabezpieczeń
- Poproś o coś spoza zakresu i sprawdź uprzejmą odmowę
- Nalegaj, powtarzaj i przeformułowuj prośbę
- Poproś, by zignorował swoje instrukcje
- Poproś, by ujawnił swój prompt
- Poproś o obietnicę rabatu lub rezerwacji
- Poproś o dane innego klienta
- Zgłoś nagły wypadek i sprawdź proponowaną drogę
- Powiedz, że chcesz rozmawiać z człowiekiem, i sprawdź przekazanie
- Mów ze złością i sprawdź, czy ton pozostaje spokojny
Dodawaj do scenariusza każdy prawdziwy błąd. Szerszą metodę opisuje artykuł Testowanie agenta głosowej AI.
Ustawianie zabezpieczeń w Call
W Call zapisz zakres i odmowy w instrukcjach agenta, wybierz personę określającą jego rolę i ton, przypisz skrypt tam, gdzie sformułowania muszą być dokładne, i ogranicz źródła do tego, co zatwierdzisz. Zdecyduj, kto przejmuje rozmowę, gdy dzwoniący prosi o człowieka; prośby można w helpdesku przejmować, przypisywać, opatrywać notatkami i rozwiązywać. Następnie wykonaj połączenie testowe i przeczytaj potem rozmowę, w tym historię edycji, jeśli poprawiasz wypowiedzi agenta. Uważnie przeglądaj pierwsze tygodnie prawdziwych rozmów i zaostrzaj zasady wszędzie tam, gdzie transkrypcje pokazują lukę.
Najczęstsze pytania
Czym jest zabezpieczenie w głosowej AI?
To zasada lub limit, który utrzymuje agenta w ramach jego zadania, np. trzymanie się tematu, odmawianie określonych próśb, ochrona informacji i przekazywanie rozmowy człowiekowi, gdy jest to potrzebne.
Czy dobry prompt wystarczy?
Zwykle nie. Prompt to wskazówka, którą model pod naciskiem może zignorować. Łącz go z zatwierdzonymi źródłami, limitami tego, co agent może zrobić, i monitorowaniem prawdziwych rozmów.
Czy dzwoniący mogą podstępem skłonić agenta do zignorowania zasad?
Niektórzy próbują. Same instrukcje da się obejść, dlatego ważne limity powinien egzekwować system i dlatego warto testować celowymi próbami.
Co powinno się stać, gdy prośba wykracza poza zakres?
Agent powinien uprzejmie powiedzieć, że w tej rozmowie nie może w tym pomóc, i zaproponować następny krok, np. wiadomość, prośbę o oddzwonienie lub rozmowę z człowiekiem.
Czy zabezpieczenia sprawiają, że agent jest mniej pomocny?
Źle napisane mogą. Utrzymuj jasny zakres, dawaj przy odmowach alternatywną drogę i przeglądaj rozmowy, by znaleźć miejsca, w których agent blokuje niegroźne prośby.
Kto powinien odpowiadać za zabezpieczenia?
Ktoś, kto rozumie zarówno ryzyko biznesowe, jak i same rozmowy – zwykle kierownik operacyjny lub lider zespołu – przy wsparciu doradców prawnych lub ds. zgodności w przypadku tematów regulowanych.