Peraturan dan kepatuhan

EU AI Act dan Agen Suara: Dasar-Dasar Transparansi

Arti kewajiban transparansi EU AI Act bagi agen suara yang menjawab atau melakukan panggilan, plus daftar periksa untuk memberi tahu penelepon bahwa itu AI.

Tim redaksi Call · Dipublikasikan · Baca 6 menit

Agen suara kini sudah cukup canggih sehingga penelepon bisa menyelesaikan percakapan tanpa menyadari tidak ada manusia di saluran. Pembuat undang-undang Eropa memperhatikan hal ini. EU Artificial Intelligence Act (Regulation (EU) 2024/1689) memuat aturan transparansi yang ditujukan langsung pada sistem yang berinteraksi dengan manusia, dan agen telepon adalah contoh klasiknya.

Seseorang di meja memakai headset sementara panggilan tampil di layar laptop
Gambar ilustrasi

Panduan ini menjelaskan dasar-dasarnya dengan bahasa sederhana: apa isi kewajiban transparansi, kepada siapa kewajiban itu dibebankan, apa artinya bagi panggilan masuk dan keluar, dan cara memasukkannya ke alur panggilan Anda. Ini adalah ikhtisar untuk tim operasional dan produk, bukan pendapat hukum. Untuk gambaran lebih luas tentang memberi tahu penelepon soal AI, lihat Memberi Tahu Penelepon bahwa Mereka Berbicara dengan AI.

Undang-undang ini dalam satu menit

AI Act mengelompokkan sistem AI berdasarkan risikonya dan melekatkan kewajiban pada setiap tingkatan. Sejumlah kecil praktik dilarang. Daftar penggunaan berisiko tinggi yang ditetapkan membawa kewajiban berat. Sistem yang berinteraksi langsung dengan manusia, atau yang menghasilkan audio, gambar, atau video sintetis, membawa kewajiban transparansi yang lebih ringan. Sebagian besar penggunaan bisnis umum berada di luar daftar berisiko tinggi.

Agen suara layanan pelanggan biasanya berada di tingkat transparansi itu, bukan di tingkat berisiko tinggi. Itu tidak berarti agen tersebut bebas regulasi: undang-undang lain tetap berlaku, seperti aturan pelindungan data dan hukum konsumen. Namun persyaratan AI Act sendiri untuk sistem semacam ini terutama soal kejujuran.

Posisi agen suara

  • Praktik terlarangPenggunaan yang manipulatif atau eksploitatif dilarang sepenuhnya. Resepsionis atau agen dukungan biasa tidak dirancang untuk itu, tetapi prompt dan naskah Anda tidak boleh sampai mengarah ke sana.
  • Sistem berisiko tinggiDaftar penggunaan yang tetap, seperti keputusan tertentu tentang pekerjaan, kredit, atau layanan esensial. Periksa apakah alur panggilan Anda membuat atau sangat memengaruhi keputusan semacam itu.
  • Kewajiban transparansiTingkatan tempat kebanyakan agen telepon berada: orang harus diberi tahu bahwa mereka berinteraksi dengan sistem AI, dan audio sintetis harus ditandai.
  • SelebihnyaUndang-undang lain tetap berlaku, termasuk pelindungan data, aturan perekaman, dan pelindungan konsumen.

Isi kewajiban transparansi

Secara sederhana, pasal transparansi dalam undang-undang ini meminta hal-hal berikut, dengan beberapa pengecualian:

Menurut jadwal awal, kewajiban transparansi dijadwalkan berlaku mulai Agustus 2026. Jadwal untuk sebagian bagian undang-undang ini masih dibahas di tingkat Uni Eropa, jadi pastikan tanggal yang berlaku saat Anda membaca ini.

Apakah pernah benar-benar jelas?

Undang-undang ini memberi pengecualian jika sudah jelas bagi orang yang cukup terinformasi bahwa mereka berhadapan dengan AI. Di telepon, jangan mengandalkan pengecualian ini. Suara yang alami, nama yang terdengar seperti manusia, dan nada yang ramah membuatnya jauh dari jelas. Jika ragu, ungkapkan.

Penyedia atau penerap: siapa memikul kewajiban apa

Undang-undang ini membedakan penyedia (provider), yang mengembangkan sistem AI atau memesannya untuk dikembangkan lalu memasarkannya dengan nama sendiri, dari penerap (deployer), yang memakai sistem di bawah kewenangannya. Bisnis yang mengonfigurasi agen suara dari sebuah platform dan memasangnya di saluran teleponnya biasanya adalah penerap, sedangkan vendor platform lebih dekat ke penyedia. Banyak kewajiban berada di pihak penyedia, tetapi penerap tetap harus memakai sistem sesuai tujuannya, memberi tahu manusia bila diwajibkan, dan tidak menghilangkan pengamanannya.

Penyedia dan penerap, berdampingan

Penyedia (membangun atau menjual sistem)Penerap (memakainya)
Contoh umumVendor platform agen suaraKlinik, peritel, atau service desk yang menjalankan agen suara di salurannya
Pengungkapan kepada orangMembangun sistem agar dapat memberi tahu orang bahwa mereka berhadapan dengan AIMemastikan saluran benar-benar memberi tahu penelepon, di tempat yang tepat dan dengan kata-kata yang tepat
Penandaan audio sintetisMenyematkan penandaan sepanjang secara teknis memungkinkanTidak menghapus atau menonaktifkannya
Kendali sehari-hariDokumentasi dan desainNaskah, eskalasi, pemantauan, dan pencatatan

Jika Anda tidak yakin peran mana yang Anda pegang, anggap Anda setidaknya memikul kewajiban penerap dan tanyakan kepada vendor apa yang dilakukan platform untuk Anda.

Panggilan masuk dan keluar

Panggilan masuk adalah kasus yang lebih sederhana. Penelepon memilih untuk menghubungi Anda, dan Anda bisa membuka dengan pernyataan singkat sebelum agen mengambil alih. Panggilan keluar membutuhkan kehati-hatian lebih karena orang tersebut tidak memilih percakapan itu. Pengungkapan harus muncul di kalimat pertama atau kedua, bersama keterangan siapa yang menelepon dan mengapa.

Pembuka yang transparan untuk panggilan yang ditangani AI

  1. Sebutkan nama bisnis"Halo, ini layanan pemesanan Harbour Physio."
  2. Sebutkan bahwa ini AI"Saya asisten suara otomatis, bukan manusia."
  3. Sebutkan apa yang bisa dilakukan"Saya bisa mencatat pesan atau permintaan janji temu."
  4. Tawarkan petugas"Jika Anda lebih suka berbicara dengan seseorang, cukup katakan saja."
  5. Sebutkan perekaman jika relevan"Panggilan ini mungkin direkam untuk keperluan kualitas."

Contoh-contoh ini bersifat hipotetis; sesuaikan dengan bisnis Anda sendiri. Untuk kampanye keluar, patuhi juga aturan terpisah tentang panggilan otomatis dan persetujuan, yang dirangkum dalam Panggilan Otomatis: Ikhtisar per Negara.

Suara sintetis dan kloning

Suara text-to-speech adalah audio sintetis, dan suara kloning melangkah lebih jauh dengan meniru orang sungguhan. Kewajiban penandaan terutama ada pada penyedia, tetapi sebagai penerap Anda perlu memahami apa yang dilakukan platform Anda, dan Anda tidak boleh memakai suara kloning orang sungguhan tanpa izin yang jelas dari orang tersebut. Jika agen Anda berbicara dengan suara karyawan yang dikenal, beri tahu penelepon bahwa itu adalah suara AI, bukan karyawan tersebut.

Untuk informasi lebih lanjut tentang suara, lihat Kloning Suara untuk Bisnis: Persetujuan dan Batasannya.

Lebih dari sekadar pengungkapan: apa lagi yang perlu dirancang

Transparansi adalah batas bawah, bukan batas atas. Agen suara yang dikelola dengan baik juga membutuhkan hal-hal berikut:

Pengamanan praktis di sekitar pengungkapan

  • Jalur ke petugasPenelepon yang meminta manusia harus bisa terhubung, atau ditawari panggilan balik atau pesan, tanpa dipersulit.
  • Batas atas apa yang diucapkanPagar pembatas (guardrail) yang mencegah agen mengarang jawaban atau memberi saran di luar wewenangnya.
  • Kehati-hatian dataKumpulkan hanya yang dibutuhkan panggilan, dan beri tahu penelepon bagaimana rekaman dan transkrip digunakan.
  • Pengawasan manusiaAda orang yang meninjau transkrip, menangani eskalasi, dan bisa menonaktifkan agen.

Lihat Guardrail untuk Agen Voice AI dan Privacy by Design untuk Voice AI untuk sisi desainnya.

Daftar periksa kesiapan praktis

Sebelum agen suara AI menerima panggilan langsung

  • Tentukan apakah Anda penyedia, penerap, atau keduanya untuk sistem ini
  • Tulis pengungkapan dengan kata-kata sederhana dan letakkan paling awal di setiap jenis panggilan
  • Pastikan penelepon bisa terhubung ke petugas, panggilan balik, atau pesan
  • Konfirmasikan dengan vendor Anda bagaimana audio sintetis ditandai
  • Pastikan pemberitahuan pelindungan data dan perekaman juga sudah tersedia
  • Simpan catatan kalimat yang dipakai dan tanggal perubahannya
  • Tinjau sampel panggilan nyata setiap minggu dan perbaiki panggilan yang menyembunyikan AI
  • Periksa ulang sumber resmi untuk perubahan jadwal sebelum peluncuran

Melakukannya di Call

Di Call, operator dapat mencantumkan pengungkapan wajib di Admin, Telefoni dan AI: Anda memberikan label, kata-kata yang dianggap sebagai pengungkapan, dan batas detik saat pengungkapan itu harus sudah diucapkan. Hanya ucapan agen sendiri yang dihitung, bukan pertanyaan penelepon tentangnya. Di saluran telepon, Anda juga bisa memilih apakah penelepon mendengar pemberitahuan perekaman dan pemantauan, dan pada panggilan AI pemberitahuan itu diputar sebelum salam. Penelepon dapat meminta petugas, dan agen AI dapat menyerahkan panggilan; lihat panduan tentang menyerahkan panggilan dari agen AI ke petugas di Call. Apakah pengaturan tersebut memenuhi kewajiban hukum tertentu adalah keputusan Anda dan penasihat Anda.

Pertanyaan yang sering diajukan

Apakah EU AI Act berlaku bagi saya jika bisnis saya berada di luar Uni Eropa?

Bisa. Undang-undang ini menjangkau penyedia dan penerap di luar Uni Eropa jika keluaran sistemnya digunakan di Uni Eropa, misalnya oleh penelepon yang berada di sana. Mintalah nasihat jika Anda memiliki penelepon dari Uni Eropa.

Haruskah agen suara selalu mengatakan bahwa ia adalah AI?

Aturan transparansi meminta agar orang diberi tahu bahwa mereka berinteraksi dengan sistem AI kecuali hal itu sudah jelas bagi orang yang cukup terinformasi. Di saluran telepon, hal itu jarang jelas, jadi kebiasaan yang aman adalah menyampaikannya di dekat awal setiap panggilan.

Kapan aturan transparansi mulai berlaku?

Menurut jadwal awal, aturan ini dijadwalkan berlaku mulai Agustus 2026, tetapi jadwal untuk sebagian bagian undang-undang ini masih dibahas. Periksa halaman Komisi Eropa untuk tanggal yang berlaku saat Anda membaca ini.

Apakah salam text-to-speech termasuk sistem AI?

Salam rekaman atau sintetis yang tetap dan tidak berinteraksi berbeda dengan agen yang melakukan percakapan. Kewajiban penandaan untuk audio sintetis mungkin tetap relevan, jadi tanyakan kepada vendor Anda bagaimana mereka menanganinya.

Apakah mengungkapkan AI akan membuat penelepon menutup telepon?

Sebagian mungkin, tetapi pengungkapan yang jujur membangun kepercayaan, dan penelepon yang tetap bertahan cenderung lebih jelas tentang apa yang mereka inginkan. Pembuka yang ramah dan jalur mudah ke petugas mengurangi penelepon yang berhenti.

Apakah AI Act satu-satunya hukum yang penting bagi agen suara?

Tidak. Pelindungan data, perekaman panggilan, aturan pemasaran dan persetujuan, serta aturan sektoral tetap berlaku. AI Act menambah aturan tersebut, bukan menggantikannya.

Siapkan pengungkapan AI yang jelas untuk saluran telepon Anda di Call

Di konsol demo, Anda bisa mencoba panggilan masuk dalam simulasi.

Panduan terkait