AI Act a agenci głosowi: podstawy obowiązków przejrzystości
Co obowiązki przejrzystości z unijnego AI Act oznaczają dla agentów głosowych odbierających i wykonujących połączenia, z checklistą informowania o AI.
Agenci głosowi są dziś na tyle dobrzy, że dzwoniący może zakończyć rozmowę, nie zdając sobie sprawy, że po drugiej stronie nie było człowieka. Europejscy prawodawcy to zauważyli. Unijny akt w sprawie sztucznej inteligencji (rozporządzenie (UE) 2024/1689, AI Act) zawiera zasady przejrzystości wymierzone właśnie w systemy wchodzące w interakcję z ludźmi, a agent telefoniczny jest tu podręcznikowym przykładem.

Ten przewodnik wyjaśnia podstawy prostym językiem: co mówi obowiązek przejrzystości, kogo dotyczy, co oznacza dla połączeń przychodzących i wychodzących i jak wbudować go w przepływ połączeń. To przegląd dla zespołów operacyjnych i produktowych, a nie opinia prawna. Szerszy obraz informowania dzwoniących o AI przedstawia artykuł Informowanie dzwoniących, że rozmawiają z AI.
AI Act w minutę
AI Act klasyfikuje systemy AI według stwarzanego ryzyka i przypisuje obowiązki każdemu poziomowi. Niewielka liczba praktyk jest zakazana. Określona lista zastosowań wysokiego ryzyka wiąże się z poważnymi obowiązkami. Systemy, które wchodzą w bezpośrednią interakcję z ludźmi lub generują syntetyczny dźwięk, obraz lub wideo, podlegają lżejszym obowiązkom przejrzystości. Większość typowych zastosowań biznesowych nie mieści się na liście wysokiego ryzyka.
Głosowy agent obsługi klienta zwykle mieści się na poziomie przejrzystości, a nie wysokiego ryzyka. Nie oznacza to braku regulacji: nadal obowiązują inne przepisy, takie jak ochrona danych i prawo konsumenckie. Jednak własny wymóg AI Act wobec tego rodzaju systemu dotyczy przede wszystkim uczciwości.
Gdzie mieści się agent głosowy
- Praktyki zakazaneZastosowania manipulacyjne lub wykorzystujące słabości są całkowicie zakazane. Zwykły agent recepcyjny czy wsparcia nie jest do nich projektowany, ale Twoje prompty i skrypty nigdy nie powinny w tę stronę dryfować.
- Systemy wysokiego ryzykaZamknięta lista zastosowań, na przykład niektóre decyzje dotyczące zatrudnienia, kredytów czy usług podstawowych. Sprawdź, czy Twój przepływ połączeń podejmuje takie decyzje lub mocno na nie wpływa.
- Obowiązki przejrzystościPoziom, na którym znajduje się większość agentów telefonicznych: ludzie muszą wiedzieć, że wchodzą w interakcję z systemem AI, a syntetyczny dźwięk powinien być oznaczony.
- Cała resztaNadal obowiązują inne przepisy, w tym o ochronie danych, nagrywaniu rozmów i ochronie konsumentów.
Co mówi obowiązek przejrzystości
Mówiąc prosto, artykuł aktu dotyczący przejrzystości wymaga, z pewnymi wyjątkami, następujących rzeczy:
- Informuj ludzi, że rozmawiają z AI. Dostawcy systemów AI wchodzących w bezpośrednią interakcję z ludźmi muszą projektować je tak, by osoba była o tym informowana, chyba że jest to oczywiste z okoliczności dla rozsądnie poinformowanej osoby.
- Oznaczaj syntetyczny dźwięk. Dostawcy systemów generujących syntetyczny dźwięk, obraz, wideo lub tekst muszą zadbać, by wyniki były oznaczone w formacie nadającym się do odczytu maszynowego i wykrywalne jako sztucznie wygenerowane, o ile jest to technicznie wykonalne.
- Ujawniaj deepfake'i. Podmioty wdrażające systemy, które tworzą lub zmieniają treści przypominające prawdziwe osoby, miejsca lub wydarzenia, muszą ujawniać, że są one sztuczne.
- Informuj o rozpoznawaniu emocji. Podmioty wdrażające systemy rozpoznawania emocji lub kategoryzacji biometrycznej muszą informować osoby, wobec których są one stosowane.
Według pierwotnego harmonogramu obowiązki przejrzystości mają obowiązywać od sierpnia 2026 r. Harmonogramy dla części aktu były przedmiotem dyskusji na poziomie UE, więc potwierdź daty obowiązujące w chwili lektury.
Czy kiedykolwiek jest to oczywiste?
Akt przewiduje wyjątek, gdy dla rozsądnie poinformowanej osoby jest oczywiste, że ma do czynienia z AI. Przy telefonie nie opieraj się na tym. Naturalny głos, ludzko brzmiące imię i przyjazny ton sprawiają, że wcale nie jest to oczywiste. Jeśli masz wątpliwości, informuj.
Dostawca czy podmiot wdrażający: kto ma jakie obowiązki
Akt odróżnia dostawców, którzy rozwijają system AI lub zlecają jego rozwój i wprowadzają go do obrotu pod własną nazwą, od podmiotów stosujących, które wykorzystują system w ramach swoich uprawnień. Firma, która konfiguruje agenta głosowego na platformie i uruchamia go na swojej linii telefonicznej, jest zwykle podmiotem stosującym, a dostawca platformy jest bliżej roli dostawcy. Wiele obowiązków spoczywa na dostawcy, ale podmiot stosujący nadal musi korzystać z systemu zgodnie z przeznaczeniem, informować ludzi tam, gdzie jest to wymagane, i nie usuwać zabezpieczeń.
Dostawca i podmiot stosujący obok siebie
| Dostawca (buduje lub sprzedaje system) | Podmiot stosujący (używa systemu) | |
|---|---|---|
| Typowy przykład | Dostawca platformy do agentów głosowych | Przychodnia, sklep lub dział obsługi, który uruchamia agenta głosowego na swojej linii |
| Informowanie ludzi | Buduje system tak, by mógł informować ludzi, że mają do czynienia z AI | Dba o to, by linia faktycznie informowała dzwoniących, we właściwym miejscu i właściwymi słowami |
| Oznaczanie syntetycznego dźwięku | Wbudowuje oznaczanie, o ile jest to technicznie wykonalne | Nie usuwa go ani nie wyłącza |
| Codzienna kontrola | Dokumentacja i projekt | Skrypty, eskalacje, monitorowanie i prowadzenie dokumentacji |
Jeśli nie masz pewności, jaką rolę pełnisz, załóż, że masz co najmniej obowiązki podmiotu stosującego, i zapytaj dostawcę, co platforma robi za Ciebie.
Połączenia przychodzące i wychodzące
Połączenia przychodzące są prostszym przypadkiem. Dzwoniący sam wybrał Twój numer, a Ty możesz zacząć od krótkiej informacji, zanim agent przejmie rozmowę. Połączenia wychodzące wymagają większej ostrożności, bo odbiorca nie wybrał tej rozmowy. Informacja powinna paść w pierwszym lub drugim zdaniu, razem z tym, kto dzwoni i dlaczego.
Przejrzyste otwarcie rozmowy prowadzonej przez AI
- Przedstaw firmę„Dzień dobry, tu linia rezerwacji gabinetu fizjoterapii Przystań”.
- Powiedz, że to AI„Jestem automatycznym asystentem głosowym, a nie człowiekiem”.
- Powiedz, co potrafi„Mogę przyjąć wiadomość lub prośbę o umówienie wizyty”.
- Zaproponuj człowieka„Jeśli wolisz porozmawiać z pracownikiem, po prostu powiedz”.
- Wspomnij o nagrywaniu, jeśli dotyczy„Rozmowa może być nagrywana w celach jakościowych”.
Te przykłady są hipotetyczne; dostosuj je do swojej firmy. W kampaniach wychodzących przestrzegaj też odrębnych przepisów o połączeniach automatycznych i zgodzie, podsumowanych w artykule Połączenia automatyczne: przegląd przepisów w różnych krajach.
Głosy syntetyczne i klonowane
Głosy z syntezy mowy to syntetyczny dźwięk, a sklonowany głos idzie dalej, naśladując prawdziwą osobę. Obowiązki oznaczania spoczywają głównie na dostawcy, ale jako podmiot stosujący powinieneś rozumieć, co robi Twoja platforma, i nigdy nie używać sklonowanego głosu prawdziwej osoby bez jej wyraźnej zgody. Jeśli Twój agent mówi głosem znanego pracownika, informuj dzwoniących, że to głos AI, a nie ten pracownik.
- Nie nadawaj agentowi AI ludzkiego stanowiska ani imienia sugerującego człowieka, jeśli dzwoniący mogliby zostać wprowadzeni w błąd.
- Jeśli dzwoniący szczerze pyta, czy rozmawia z człowiekiem, za każdym razem odpowiadaj zgodnie z prawdą.
- Prowadź pisemny zapis, jakiego głosu i jakich sformułowań używa każda linia.
Więcej o głosach przeczytasz w artykule Klonowanie głosu w biznesie: zgoda i granice.
Poza informowaniem: co jeszcze zaprojektować
Przejrzystość to minimum, a nie szczyt możliwości. Dobrze prowadzony agent głosowy potrzebuje też następujących elementów:
Praktyczne zabezpieczenia wokół informacji o AI
- Droga do człowiekaDzwoniący, którzy proszą o człowieka, powinni go dostać albo bez walki otrzymać propozycję oddzwonienia lub zostawienia wiadomości.
- Granice tego, co mówiZabezpieczenia, które powstrzymują agenta przed wymyślaniem odpowiedzi lub udzielaniem porad poza swoim zakresem.
- Dbałość o daneZbieraj tylko to, czego wymaga rozmowa, i informuj dzwoniących, jak wykorzystywane są nagrania i transkrypcje.
- Nadzór człowiekaKtoś przegląda transkrypcje, obsługuje eskalacje i może wyłączyć agenta.
Stronę projektową omawiają artykuły Zabezpieczenia dla agentów głosowych AI i Prywatność w fazie projektowania AI głosowego z praktycznymi wskazówkami.
Praktyczna lista gotowości
Zanim agent głosowy AI zacznie odbierać prawdziwe połączenia
- Ustal, czy w przypadku tego systemu jesteś dostawcą, podmiotem stosującym, czy jednym i drugim
- Napisz informację o AI prostymi słowami i umieść ją na początku przy każdym rodzaju połączenia
- Upewnij się, że dzwoniący może dotrzeć do człowieka, poprosić o oddzwonienie lub zostawić wiadomość
- Potwierdź z dostawcą, jak oznaczany jest syntetyczny dźwięk
- Sprawdź, czy są też informacje o ochronie danych i nagrywaniu
- Prowadź zapis użytych sformułowań i dat ich zmian
- Co tydzień przeglądaj próbkę prawdziwych rozmów i poprawiaj te, w których ukryto AI
- Przed uruchomieniem ponownie sprawdź w oficjalnych źródłach zmiany harmonogramu
Jak to zrobić w Call
W Call operator może określić wymagane informacje w sekcji „Administrator” › „Telefonia i AI”: podaje etykietę, słowa, które liczą się jako przekazanie informacji, oraz liczbę sekund, w ciągu których musi ona paść. Liczy się tylko wypowiedź samego agenta, a nie pytanie dzwoniącego na ten temat. Na linii telefonicznej możesz też zdecydować, czy dzwoniący słyszą komunikat o nagrywaniu i monitorowaniu, a przy połączeniach z AI komunikat ten pada przed powitaniem. Dzwoniący może poprosić o człowieka, a agenci AI mogą przekazać rozmowę; zobacz artykuł „Przekazywanie rozmowy od agenta AI do człowieka w Call”. Czy te ustawienia spełniają konkretny obowiązek prawny, musisz ocenić Ty wraz ze swoim doradcą.
Najczęstsze pytania
Czy AI Act dotyczy mnie, jeśli moja firma działa poza UE?
Może. Akt obejmuje dostawców i podmioty stosujące spoza UE, gdy wyniki działania ich systemu są wykorzystywane w UE, na przykład przez dzwoniących przebywających na jej terenie. Jeśli masz rozmówców z UE, zasięgnij porady.
Czy agent głosowy musi zawsze mówić, że jest AI?
Zasada przejrzystości wymaga informowania ludzi, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste dla rozsądnie poinformowanej osoby. Na linii telefonicznej rzadko jest to oczywiste, więc bezpiecznym nawykiem jest mówienie o tym na początku każdej rozmowy.
Od kiedy obowiązują zasady przejrzystości?
Według pierwotnego harmonogramu mają obowiązywać od sierpnia 2026 r., ale terminy dla części aktu były przedmiotem dyskusji. Sprawdź na stronach Komisji Europejskiej daty obowiązujące w chwili lektury.
Czy powitanie z syntezy mowy to system AI?
Stałe nagrane lub syntetyczne powitanie bez interakcji różni się od agenta prowadzącego rozmowę. Obowiązki oznaczania syntetycznego dźwięku mogą jednak nadal mieć znaczenie, więc zapytaj dostawcę, jak je realizuje.
Czy informowanie o AI sprawi, że dzwoniący będą się rozłączać?
Niektórzy mogą, ale uczciwa informacja buduje zaufanie, a ci, którzy zostają, zwykle jaśniej mówią, czego chcą. Przyjazne otwarcie i łatwa droga do człowieka ograniczają rezygnacje.
Czy AI Act to jedyne prawo istotne dla agentów głosowych?
Nie. Nadal obowiązują przepisy o ochronie danych, nagrywaniu rozmów, marketingu i zgodzie oraz przepisy sektorowe. AI Act je uzupełnia, a nie zastępuje.