Przepisy i zgodność

AI Act a agenci głosowi: podstawy obowiązków przejrzystości

Co obowiązki przejrzystości z unijnego AI Act oznaczają dla agentów głosowych odbierających i wykonujących połączenia, z checklistą informowania o AI.

Redakcja Call · Opublikowano · Czas czytania: 6 min

Agenci głosowi są dziś na tyle dobrzy, że dzwoniący może zakończyć rozmowę, nie zdając sobie sprawy, że po drugiej stronie nie było człowieka. Europejscy prawodawcy to zauważyli. Unijny akt w sprawie sztucznej inteligencji (rozporządzenie (UE) 2024/1689, AI Act) zawiera zasady przejrzystości wymierzone właśnie w systemy wchodzące w interakcję z ludźmi, a agent telefoniczny jest tu podręcznikowym przykładem.

Osoba przy biurku w zestawie słuchawkowym, a na ekranie laptopa widać trwające połączenie
Obraz poglądowy

Ten przewodnik wyjaśnia podstawy prostym językiem: co mówi obowiązek przejrzystości, kogo dotyczy, co oznacza dla połączeń przychodzących i wychodzących i jak wbudować go w przepływ połączeń. To przegląd dla zespołów operacyjnych i produktowych, a nie opinia prawna. Szerszy obraz informowania dzwoniących o AI przedstawia artykuł Informowanie dzwoniących, że rozmawiają z AI.

AI Act w minutę

AI Act klasyfikuje systemy AI według stwarzanego ryzyka i przypisuje obowiązki każdemu poziomowi. Niewielka liczba praktyk jest zakazana. Określona lista zastosowań wysokiego ryzyka wiąże się z poważnymi obowiązkami. Systemy, które wchodzą w bezpośrednią interakcję z ludźmi lub generują syntetyczny dźwięk, obraz lub wideo, podlegają lżejszym obowiązkom przejrzystości. Większość typowych zastosowań biznesowych nie mieści się na liście wysokiego ryzyka.

Głosowy agent obsługi klienta zwykle mieści się na poziomie przejrzystości, a nie wysokiego ryzyka. Nie oznacza to braku regulacji: nadal obowiązują inne przepisy, takie jak ochrona danych i prawo konsumenckie. Jednak własny wymóg AI Act wobec tego rodzaju systemu dotyczy przede wszystkim uczciwości.

Gdzie mieści się agent głosowy

  • Praktyki zakazaneZastosowania manipulacyjne lub wykorzystujące słabości są całkowicie zakazane. Zwykły agent recepcyjny czy wsparcia nie jest do nich projektowany, ale Twoje prompty i skrypty nigdy nie powinny w tę stronę dryfować.
  • Systemy wysokiego ryzykaZamknięta lista zastosowań, na przykład niektóre decyzje dotyczące zatrudnienia, kredytów czy usług podstawowych. Sprawdź, czy Twój przepływ połączeń podejmuje takie decyzje lub mocno na nie wpływa.
  • Obowiązki przejrzystościPoziom, na którym znajduje się większość agentów telefonicznych: ludzie muszą wiedzieć, że wchodzą w interakcję z systemem AI, a syntetyczny dźwięk powinien być oznaczony.
  • Cała resztaNadal obowiązują inne przepisy, w tym o ochronie danych, nagrywaniu rozmów i ochronie konsumentów.

Co mówi obowiązek przejrzystości

Mówiąc prosto, artykuł aktu dotyczący przejrzystości wymaga, z pewnymi wyjątkami, następujących rzeczy:

Według pierwotnego harmonogramu obowiązki przejrzystości mają obowiązywać od sierpnia 2026 r. Harmonogramy dla części aktu były przedmiotem dyskusji na poziomie UE, więc potwierdź daty obowiązujące w chwili lektury.

Czy kiedykolwiek jest to oczywiste?

Akt przewiduje wyjątek, gdy dla rozsądnie poinformowanej osoby jest oczywiste, że ma do czynienia z AI. Przy telefonie nie opieraj się na tym. Naturalny głos, ludzko brzmiące imię i przyjazny ton sprawiają, że wcale nie jest to oczywiste. Jeśli masz wątpliwości, informuj.

Dostawca czy podmiot wdrażający: kto ma jakie obowiązki

Akt odróżnia dostawców, którzy rozwijają system AI lub zlecają jego rozwój i wprowadzają go do obrotu pod własną nazwą, od podmiotów stosujących, które wykorzystują system w ramach swoich uprawnień. Firma, która konfiguruje agenta głosowego na platformie i uruchamia go na swojej linii telefonicznej, jest zwykle podmiotem stosującym, a dostawca platformy jest bliżej roli dostawcy. Wiele obowiązków spoczywa na dostawcy, ale podmiot stosujący nadal musi korzystać z systemu zgodnie z przeznaczeniem, informować ludzi tam, gdzie jest to wymagane, i nie usuwać zabezpieczeń.

Dostawca i podmiot stosujący obok siebie

Dostawca (buduje lub sprzedaje system)Podmiot stosujący (używa systemu)
Typowy przykładDostawca platformy do agentów głosowychPrzychodnia, sklep lub dział obsługi, który uruchamia agenta głosowego na swojej linii
Informowanie ludziBuduje system tak, by mógł informować ludzi, że mają do czynienia z AIDba o to, by linia faktycznie informowała dzwoniących, we właściwym miejscu i właściwymi słowami
Oznaczanie syntetycznego dźwiękuWbudowuje oznaczanie, o ile jest to technicznie wykonalneNie usuwa go ani nie wyłącza
Codzienna kontrolaDokumentacja i projektSkrypty, eskalacje, monitorowanie i prowadzenie dokumentacji

Jeśli nie masz pewności, jaką rolę pełnisz, załóż, że masz co najmniej obowiązki podmiotu stosującego, i zapytaj dostawcę, co platforma robi za Ciebie.

Połączenia przychodzące i wychodzące

Połączenia przychodzące są prostszym przypadkiem. Dzwoniący sam wybrał Twój numer, a Ty możesz zacząć od krótkiej informacji, zanim agent przejmie rozmowę. Połączenia wychodzące wymagają większej ostrożności, bo odbiorca nie wybrał tej rozmowy. Informacja powinna paść w pierwszym lub drugim zdaniu, razem z tym, kto dzwoni i dlaczego.

Przejrzyste otwarcie rozmowy prowadzonej przez AI

  1. Przedstaw firmę„Dzień dobry, tu linia rezerwacji gabinetu fizjoterapii Przystań”.
  2. Powiedz, że to AI„Jestem automatycznym asystentem głosowym, a nie człowiekiem”.
  3. Powiedz, co potrafi„Mogę przyjąć wiadomość lub prośbę o umówienie wizyty”.
  4. Zaproponuj człowieka„Jeśli wolisz porozmawiać z pracownikiem, po prostu powiedz”.
  5. Wspomnij o nagrywaniu, jeśli dotyczy„Rozmowa może być nagrywana w celach jakościowych”.

Te przykłady są hipotetyczne; dostosuj je do swojej firmy. W kampaniach wychodzących przestrzegaj też odrębnych przepisów o połączeniach automatycznych i zgodzie, podsumowanych w artykule Połączenia automatyczne: przegląd przepisów w różnych krajach.

Głosy syntetyczne i klonowane

Głosy z syntezy mowy to syntetyczny dźwięk, a sklonowany głos idzie dalej, naśladując prawdziwą osobę. Obowiązki oznaczania spoczywają głównie na dostawcy, ale jako podmiot stosujący powinieneś rozumieć, co robi Twoja platforma, i nigdy nie używać sklonowanego głosu prawdziwej osoby bez jej wyraźnej zgody. Jeśli Twój agent mówi głosem znanego pracownika, informuj dzwoniących, że to głos AI, a nie ten pracownik.

Więcej o głosach przeczytasz w artykule Klonowanie głosu w biznesie: zgoda i granice.

Poza informowaniem: co jeszcze zaprojektować

Przejrzystość to minimum, a nie szczyt możliwości. Dobrze prowadzony agent głosowy potrzebuje też następujących elementów:

Praktyczne zabezpieczenia wokół informacji o AI

  • Droga do człowiekaDzwoniący, którzy proszą o człowieka, powinni go dostać albo bez walki otrzymać propozycję oddzwonienia lub zostawienia wiadomości.
  • Granice tego, co mówiZabezpieczenia, które powstrzymują agenta przed wymyślaniem odpowiedzi lub udzielaniem porad poza swoim zakresem.
  • Dbałość o daneZbieraj tylko to, czego wymaga rozmowa, i informuj dzwoniących, jak wykorzystywane są nagrania i transkrypcje.
  • Nadzór człowiekaKtoś przegląda transkrypcje, obsługuje eskalacje i może wyłączyć agenta.

Stronę projektową omawiają artykuły Zabezpieczenia dla agentów głosowych AI i Prywatność w fazie projektowania AI głosowego z praktycznymi wskazówkami.

Praktyczna lista gotowości

Zanim agent głosowy AI zacznie odbierać prawdziwe połączenia

  • Ustal, czy w przypadku tego systemu jesteś dostawcą, podmiotem stosującym, czy jednym i drugim
  • Napisz informację o AI prostymi słowami i umieść ją na początku przy każdym rodzaju połączenia
  • Upewnij się, że dzwoniący może dotrzeć do człowieka, poprosić o oddzwonienie lub zostawić wiadomość
  • Potwierdź z dostawcą, jak oznaczany jest syntetyczny dźwięk
  • Sprawdź, czy są też informacje o ochronie danych i nagrywaniu
  • Prowadź zapis użytych sformułowań i dat ich zmian
  • Co tydzień przeglądaj próbkę prawdziwych rozmów i poprawiaj te, w których ukryto AI
  • Przed uruchomieniem ponownie sprawdź w oficjalnych źródłach zmiany harmonogramu

Jak to zrobić w Call

W Call operator może określić wymagane informacje w sekcji „Administrator” › „Telefonia i AI”: podaje etykietę, słowa, które liczą się jako przekazanie informacji, oraz liczbę sekund, w ciągu których musi ona paść. Liczy się tylko wypowiedź samego agenta, a nie pytanie dzwoniącego na ten temat. Na linii telefonicznej możesz też zdecydować, czy dzwoniący słyszą komunikat o nagrywaniu i monitorowaniu, a przy połączeniach z AI komunikat ten pada przed powitaniem. Dzwoniący może poprosić o człowieka, a agenci AI mogą przekazać rozmowę; zobacz artykuł „Przekazywanie rozmowy od agenta AI do człowieka w Call”. Czy te ustawienia spełniają konkretny obowiązek prawny, musisz ocenić Ty wraz ze swoim doradcą.

Najczęstsze pytania

Czy AI Act dotyczy mnie, jeśli moja firma działa poza UE?

Może. Akt obejmuje dostawców i podmioty stosujące spoza UE, gdy wyniki działania ich systemu są wykorzystywane w UE, na przykład przez dzwoniących przebywających na jej terenie. Jeśli masz rozmówców z UE, zasięgnij porady.

Czy agent głosowy musi zawsze mówić, że jest AI?

Zasada przejrzystości wymaga informowania ludzi, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste dla rozsądnie poinformowanej osoby. Na linii telefonicznej rzadko jest to oczywiste, więc bezpiecznym nawykiem jest mówienie o tym na początku każdej rozmowy.

Od kiedy obowiązują zasady przejrzystości?

Według pierwotnego harmonogramu mają obowiązywać od sierpnia 2026 r., ale terminy dla części aktu były przedmiotem dyskusji. Sprawdź na stronach Komisji Europejskiej daty obowiązujące w chwili lektury.

Czy powitanie z syntezy mowy to system AI?

Stałe nagrane lub syntetyczne powitanie bez interakcji różni się od agenta prowadzącego rozmowę. Obowiązki oznaczania syntetycznego dźwięku mogą jednak nadal mieć znaczenie, więc zapytaj dostawcę, jak je realizuje.

Czy informowanie o AI sprawi, że dzwoniący będą się rozłączać?

Niektórzy mogą, ale uczciwa informacja buduje zaufanie, a ci, którzy zostają, zwykle jaśniej mówią, czego chcą. Przyjazne otwarcie i łatwa droga do człowieka ograniczają rezygnacje.

Czy AI Act to jedyne prawo istotne dla agentów głosowych?

Nie. Nadal obowiązują przepisy o ochronie danych, nagrywaniu rozmów, marketingu i zgodzie oraz przepisy sektorowe. AI Act je uzupełnia, a nie zastępuje.

Skonfiguruj w Call jasną informację o AI na swojej linii

W konsoli demo możesz wypróbować połączenia przychodzące w symulacji.

Powiązane poradniki