Peraturan dan pematuhan

Akta AI EU dan Ejen Suara: Asas Ketelusan

Maksud kewajipan ketelusan Akta AI EU bagi ejen suara yang menjawab atau membuat panggilan, serta senarai semak untuk memaklumkan pemanggil tentang AI.

Pasukan editorial Call · Diterbitkan · Bacaan 6 min

Ejen suara kini cukup baik sehingga pemanggil boleh menamatkan perbualan tanpa menyedari tiada manusia di talian. Penggubal undang-undang Eropah menyedarinya. Akta Kecerdasan Buatan EU (Peraturan (EU) 2024/1689) mengandungi peraturan ketelusan yang ditujukan khusus kepada sistem yang berinteraksi dengan manusia, dan ejen telefon ialah contoh klasik.

Seseorang di meja memakai set kepala sambil panggilan dipaparkan pada skrin komputer riba
Imej ilustrasi

Panduan ini menerangkan asasnya dalam bahasa mudah: apa yang dinyatakan oleh kewajipan ketelusan, kepada siapa ia terpakai, apa maksudnya bagi panggilan masuk dan keluar, dan cara membinanya ke dalam aliran panggilan anda. Ia ialah gambaran keseluruhan untuk pasukan operasi dan produk, bukan pendapat undang-undang. Untuk gambaran lebih luas tentang memaklumkan pemanggil mengenai AI, lihat Memberitahu Pemanggil Bahawa Mereka Bercakap dengan AI.

Akta ini dalam satu minit

Akta AI menyusun sistem AI mengikut risiko yang ditimbulkannya dan meletakkan kewajipan pada setiap peringkat. Sebilangan kecil amalan dilarang. Senarai penggunaan berisiko tinggi yang ditakrifkan membawa kewajipan berat. Sistem yang berinteraksi secara langsung dengan manusia, atau yang menjana audio, imej atau video sintetik, membawa kewajipan ketelusan yang lebih ringan. Kebanyakan penggunaan perniagaan umum berada di luar senarai berisiko tinggi.

Ejen suara khidmat pelanggan biasanya berada dalam peringkat ketelusan itu dan bukannya peringkat berisiko tinggi. Itu tidak bermakna ia tidak dikawal selia: undang-undang lain masih terpakai, seperti peraturan perlindungan data dan undang-undang pengguna. Tetapi keperluan Akta AI sendiri bagi sistem jenis ini terutamanya berkaitan dengan kejujuran.

Di mana kedudukan ejen suara

  • Amalan yang dilarangPenggunaan yang memanipulasi atau mengeksploitasi diharamkan sepenuhnya. Penyambut tetamu atau ejen sokongan biasa tidak direka untuk tujuan ini, tetapi prompt dan skrip anda tidak boleh sekali-kali menjurus ke arah itu.
  • Sistem berisiko tinggiSenarai tetap penggunaan, seperti keputusan tertentu tentang pekerjaan, kredit atau perkhidmatan penting. Semak sama ada aliran panggilan anda membuat atau banyak mempengaruhi keputusan sedemikian.
  • Kewajipan ketelusanPeringkat yang merangkumi kebanyakan ejen telefon: orang mesti dimaklumkan bahawa mereka berinteraksi dengan sistem AI, dan audio sintetik patut ditandakan.
  • SelebihnyaUndang-undang lain masih terpakai, termasuk perlindungan data, peraturan rakaman dan perlindungan pengguna.

Apa yang dinyatakan oleh kewajipan ketelusan

Secara ringkasnya, artikel ketelusan Akta ini meminta perkara berikut, dengan beberapa pengecualian:

Di bawah jadual waktu asal, kewajipan ketelusan dijadualkan terpakai mulai Ogos 2026. Jadual waktu bagi bahagian-bahagian Akta ini sedang dibincangkan di peringkat EU, jadi sahkan tarikh yang terpakai semasa anda membaca ini.

Adakah ia pernah jelas?

Akta ini membenarkan pengecualian apabila jelas kepada orang yang dimaklumkan secara munasabah bahawa mereka berurusan dengan AI. Di telefon, jangan bergantung pada pengecualian ini. Suara yang semula jadi, nama yang kedengaran seperti manusia dan nada yang mesra menjadikannya jauh daripada jelas. Jika anda tidak pasti, dedahkan.

Pembekal atau pengguna: siapa memikul kewajipan apa

Akta ini membezakan pembekal (provider), iaitu pihak yang membangunkan sistem AI atau menyuruh ia dibangunkan dan meletakkannya di pasaran di bawah nama sendiri, daripada pengguna (deployer), iaitu pihak yang menggunakan sistem di bawah kuasa mereka. Perniagaan yang mengkonfigurasi ejen suara daripada platform dan meletakkannya pada talian telefonnya biasanya ialah pengguna, manakala vendor platform lebih hampir kepada pembekal. Banyak kewajipan terletak pada pembekal, tetapi pengguna masih perlu menggunakan sistem seperti yang dimaksudkan, memastikan manusia dimaklumkan apabila dikehendaki dan tidak membuang perlindungan yang ada.

Pembekal dan pengguna, sebelah-menyebelah

Pembekal (membina atau menjual sistem)Pengguna (menggunakannya)
Contoh biasaVendor platform ejen suaraKlinik, peruncit atau meja perkhidmatan yang menjalankan ejen suara pada taliannya
Pendedahan kepada orangMembina sistem supaya ia boleh memberitahu orang bahawa mereka berurusan dengan AIMemastikan talian benar-benar memberitahu pemanggil, di tempat yang betul dan dengan perkataan yang betul
Penandaan audio sintetikMembina penandaan jika boleh dilaksanakan secara teknikalTidak membuang atau menyahaktifkannya
Kawalan harianDokumentasi dan reka bentukSkrip, peningkatan kes, pemantauan dan penyimpanan rekod

Jika anda tidak pasti peranan mana yang anda pegang, anggap anda mempunyai sekurang-kurangnya kewajipan pengguna dan tanya vendor anda apa yang dilakukan oleh platform untuk anda.

Panggilan masuk dan keluar

Panggilan masuk ialah kes yang lebih mudah. Pemanggil memilih untuk menghubungi anda, dan anda boleh membuka dengan kenyataan ringkas sebelum ejen mengambil alih. Panggilan keluar memerlukan lebih perhatian kerana orang itu tidak memilih perbualan tersebut. Pendedahan patut dibuat dalam ayat pertama atau kedua, bersama siapa yang membuat panggilan dan mengapa.

Pembukaan yang telus untuk panggilan yang dikendalikan AI

  1. Namakan perniagaan"Helo, ini talian tempahan Harbour Physio."
  2. Nyatakan bahawa ia AI"Saya pembantu suara automatik, bukan manusia."
  3. Nyatakan apa yang boleh dilakukannya"Saya boleh mengambil mesej atau permintaan temu janji."
  4. Tawarkan seseorang"Jika anda lebih suka bercakap dengan seseorang, beritahu sahaja."
  5. Sebut rakaman jika berkaitan"Panggilan ini mungkin dirakam untuk tujuan kualiti."

Contoh-contoh ini adalah hipotetikal; sesuaikan dengan perniagaan anda sendiri. Untuk kempen panggilan keluar, patuhi juga peraturan berasingan tentang panggilan automatik dan persetujuan, yang diringkaskan dalam Panggilan Automatik: Gambaran Keseluruhan Mengikut Negara.

Suara sintetik dan klon

Suara teks-ke-pertuturan ialah audio sintetik, dan suara klon pergi lebih jauh dengan meniru orang sebenar. Kewajipan penandaan terutamanya terletak pada pembekal, tetapi sebagai pengguna anda patut memahami apa yang dilakukan oleh platform anda, dan anda tidak boleh sekali-kali menggunakan suara klon orang sebenar tanpa kebenaran jelas orang itu. Jika ejen anda bercakap dengan suara pekerja yang dikenali, beritahu pemanggil bahawa itu suara AI, bukan pekerja tersebut.

Untuk maklumat lanjut tentang suara, lihat Pengklonan Suara untuk Perniagaan: Persetujuan dan Had.

Melangkaui pendedahan: apa lagi yang perlu direka bentuk

Ketelusan ialah tahap minimum, bukan had maksimum. Ejen suara yang dikendalikan dengan baik juga memerlukan perkara berikut:

Perlindungan praktikal di sekitar pendedahan

  • Laluan kepada seseorangPemanggil yang meminta untuk bercakap dengan manusia patut dapat berbuat demikian, atau ditawarkan panggilan balik atau mesej, tanpa perlu bergelut.
  • Had pada apa yang disebutnyaKawalan yang menghalang ejen daripada mereka-reka jawapan atau memberi nasihat di luar bidangnya.
  • Penjagaan dataKumpul hanya apa yang diperlukan oleh panggilan, dan beritahu pemanggil cara rakaman dan transkrip digunakan.
  • Pengawasan manusiaSeseorang menyemak transkrip, mengendalikan kes yang dinaikkan dan boleh mematikan ejen.

Lihat Kawalan Keselamatan untuk Ejen AI Suara dan Privasi melalui Reka Bentuk untuk AI Suara untuk aspek reka bentuk.

Senarai semak kesediaan praktikal

Sebelum ejen suara AI menerima panggilan sebenar

  • Tentukan sama ada anda pembekal, pengguna atau kedua-duanya bagi sistem ini
  • Tulis pendedahan dengan perkataan mudah dan letakkannya di awal setiap jenis panggilan
  • Pastikan pemanggil boleh mendapatkan seseorang, panggilan balik atau mesej
  • Sahkan dengan vendor anda cara audio sintetik ditandakan
  • Semak bahawa notis perlindungan data dan rakaman juga disediakan
  • Simpan rekod ayat yang digunakan dan tarikh ia diubah
  • Semak sampel panggilan sebenar setiap minggu dan baiki mana-mana yang menyembunyikan AI
  • Semak semula sumber rasmi untuk perubahan jadual waktu sebelum pelancaran

Melaksanakannya dalam Call

Dalam Call, pengendali boleh menyenaraikan pendedahan wajib di bawah Pentadbir, Telefoni dan AI: anda memberikan label, perkataan yang dikira sebagai menyebutnya, dan bilangan saat sebelum ia mesti telah disebut. Hanya pertuturan ejen sendiri yang dikira, bukan pemanggil yang bertanya mengenainya. Pada talian telefon, anda juga boleh memilih sama ada pemanggil mendengar notis rakaman dan pemantauan, dan pada panggilan AI notis itu dimainkan sebelum ucapan alu-aluan. Pemanggil boleh meminta untuk bercakap dengan seseorang, dan ejen AI boleh menyerahkan panggilan; lihat Menyerahkan Panggilan daripada Ejen AI kepada Manusia dalam Call. Sama ada tetapan tersebut memenuhi sesuatu kewajipan undang-undang tertentu adalah untuk anda dan penasihat anda tentukan.

Soalan lazim

Adakah Akta AI EU terpakai kepada saya jika perniagaan saya di luar EU?

Boleh. Akta ini meliputi pembekal dan pengguna di luar EU apabila output sistem mereka digunakan di EU, contohnya oleh pemanggil yang berada di sana. Dapatkan nasihat jika anda mempunyai pemanggil dari EU.

Mestikah ejen suara sentiasa menyatakan bahawa ia AI?

Peraturan ketelusan meminta supaya orang dimaklumkan bahawa mereka berinteraksi dengan sistem AI melainkan ia jelas kepada orang yang dimaklumkan secara munasabah. Di talian telefon ia jarang jelas, jadi tabiat yang selamat ialah menyatakannya berhampiran permulaan setiap panggilan.

Bilakah peraturan ketelusan mula terpakai?

Di bawah jadual waktu asal, ia dijadualkan terpakai mulai Ogos 2026, tetapi garis masa bagi sebahagian Akta ini sedang dibincangkan. Semak halaman Suruhanjaya Eropah untuk tarikh yang berkuat kuasa semasa anda membaca ini.

Adakah ucapan alu-aluan teks-ke-pertuturan dikira sebagai sistem AI?

Ucapan rakaman atau sintetik tetap yang tidak berinteraksi berbeza daripada ejen yang mengadakan perbualan. Kewajipan penandaan bagi audio sintetik mungkin masih relevan, jadi tanya vendor anda bagaimana ia menanganinya.

Adakah mendedahkan AI bermakna pemanggil akan meletakkan telefon?

Sesetengahnya mungkin, tetapi pendedahan yang jujur membina kepercayaan, dan pemanggil yang kekal cenderung lebih jelas tentang apa yang mereka mahukan. Pembukaan yang mesra dan laluan mudah kepada seseorang mengurangkan keciciran.

Adakah Akta AI satu-satunya undang-undang yang penting bagi ejen suara?

Tidak. Peraturan perlindungan data, rakaman panggilan, pemasaran dan persetujuan, serta peraturan sektor masih terpakai. Akta AI menambah kepada peraturan tersebut dan bukannya menggantikannya.

Sediakan pendedahan AI yang jelas untuk talian telefon anda dalam Call

Dalam konsol demo, anda boleh mencuba panggilan masuk secara simulasi.

Panduan berkaitan