Teknologi AI suara

Kawalan Keselamatan Ejen AI Suara: Panggilan Selamat dan Fokus

Lapisan kawalan keselamatan ejen suara telefon, daripada prompt dan sumber diluluskan hingga had yang dikuatkuasakan, peraturan penyerahan dan skrip ujian.

Pasukan editorial Call · Diterbitkan · Bacaan 5 min

Ejen telefon bercakap bagi pihak perniagaan anda. Pemanggil mungkin mengujinya, mengelirukannya, marah kepadanya atau cuba memujuknya melakukan perkara yang tidak sepatutnya. Kawalan keselamatan ialah batasan yang memastikan perbualan selamat, fokus dan jujur, walaupun pemanggil mendesak.

Seorang pengurus menyemak nota panggilan di meja dengan set kepala berdekatan
Imej ilustrasi

Panduan ini menerangkan jenis utama kawalan keselamatan, cara menyusunnya secara berlapis dan cara mengujinya. Ia sesuai dibaca bersama Mencegah Jawapan Rekaan AI Suara, yang memberi tumpuan kepada ketepatan, dan Apa yang Tidak Boleh Dilakukan Penyambut Tetamu AI.

Untuk apa kawalan keselamatan

Bayangkan penyambut tetamu baharu pada hari pertamanya. Anda memberitahunya apa yang perlu dikatakan, apa yang tidak boleh dijanjikan dan siapa yang perlu dihubungi apabila sesuatu situasi di luar kemampuannya. Ejen suara memerlukan taklimat yang sama, secara bertulis, dan sebahagiannya dikuatkuasakan oleh sistem dan bukannya bergantung pada ingatan.

Empat tugas kawalan keselamatan

  • Kekal pada topikEjen bercakap tentang perkhidmatan anda, bukan tentang apa sahaja yang dibangkitkan pemanggil.
  • Mencegah kemudaratanIa menolak untuk memberi nasihat atau mengambil tindakan yang tidak sepatutnya.
  • Melindungi maklumatIa tidak membacakan butiran orang lain atau mendedahkan arahannya sendiri.
  • Tahu bila berhentiIa menyerahkan kepada manusia apabila situasi memerlukannya.

Kawalan keselamatan datang berlapis

Tiada satu langkah pun yang boleh diharap dengan sendirinya. Persediaan yang wajar menggabungkan beberapa langkah, supaya jika satu gagal, yang lain menangkap masalah itu.

LapisanApa yang dilakukannyaContoh
ArahanMemberitahu ejen peranan, nada dan hadnyaHanya bincangkan waktu operasi, perkhidmatan dan mesej
SumberMengehadkan fakta yang boleh digunakannyaJawapan yang diluluskan, tiada yang lain
Had tindakanMenyekat apa yang boleh dilakukannyaIa tidak boleh menempah, membuat bayaran balik atau mengubah rekod
Semakan outputMemeriksa apa yang akan dikatakannyaSekat perkataan atau topik tertentu
Peraturan penyerahanMenentukan bila manusia mengambil alihPemanggil meminta manusia atau kedengaran dalam kesusahan
PemantauanMenyemak panggilan selepas berlakuCari frasa berisiko dalam transkrip

Kawalan keselamatan peringkat arahan

Lapisan pertama ialah taklimat yang jelas. Terangkan peranan, nada, topik dalam skop dan topik di luar skop. Nyatakan apa yang patut dilakukan ejen apabila sesuatu di luar skop, kerana penolakan tanpa alternatif mengecewakan.

Arahan ialah panduan, bukan penguatkuasaan. Model biasanya mematuhinya tetapi boleh dipujuk, sebab itulah ia tidak patut menjadi satu-satunya lapisan untuk apa-apa yang penting. Menulis Prompt untuk Ejen Telefon LLM menunjukkan cara menulisnya dengan jelas.

Peraturan yang dikuatkuasakan sistem

Kawalan keselamatan paling kukuh tidak bergantung pada kelakuan model. Jika ejen tidak mempunyai keupayaan untuk membuat bayaran balik, ia tidak boleh dipujuk untuk melakukannya. Dalam Call, ejen AI dalam panggilan direka supaya ia tidak boleh menempah atau mengesahkan temu janji, membuat panggilan balik, menghantar apa-apa atau memberi diskaun semasa panggilan; ia menyatakannya dan memberikan laluan yang diterangkan dalam sumber anda. Ia menjawab daripada arahan, persona, skrip yang dilampirkan dan petikan pangkalan pengetahuan yang sepadan, dan apabila tiada yang menjawab soalan, ia menyatakan bahawa ia tidak dapat mengesahkannya. Peraturan ini berada di bawah arahan anda sendiri: arahan anda tidak boleh mematikannya.

Situasi sensitif

Sesetengah perbualan memerlukan laluan yang ditetapkan, bukan jawapan yang bijak.

Laluan penyerahan untuk panggilan sensitif

  1. Kenal pastiKesusahan, kecemasan, ugutan, aduan atau permintaan untuk bercakap dengan manusia.
  2. Balas secara ringkasPengakuan yang pendek dan tenang, tanpa perdebatan atau nasihat improvisasi.
  3. ArahkanBerikan laluan yang betul: perkhidmatan kecemasan, orang yang bertugas atau permintaan panggilan balik.
  4. RekodSimpan apa yang diperkatakan supaya orang seterusnya mempunyai konteks.
  5. SusuliSeseorang menyemak permintaan itu dan melengkapkan kitaran.

Untuk kecemasan, berikan pemanggil laluan yang jelas kepada perkhidmatan yang betul pada permulaan cabang yang berkaitan dan jangan bergantung pada ejen untuk menilai tahap kesegeraan. Bagi pemanggil yang mungkin rentan, rancang penjagaan tambahan; lihat Menyokong Pelanggan Rentan dalam Panggilan dan Mengendalikan Pemanggil yang Kasar.

Melindungi maklumat

Kawalan keselamatan juga melindungi data. Ejen tidak patut membacakan butiran seseorang kepada orang lain, patut mengumpul hanya apa yang diperlukan dan tidak patut mengulang nombor sensitif dengan kuat tanpa keperluan. Semakan identiti sebelum berkongsi apa-apa yang khusus kepada akaun patut menjadi sebahagian reka bentuk sejak awal. Reka bentuk privasi dibincangkan dalam Privasi melalui Reka Bentuk untuk AI Suara.

Mencari keseimbangan

Kawalan keselamatan ada kosnya. Setiap penolakan ialah saat pemanggil tidak mendapat apa yang dicarinya. Tetapkan peraturan terlalu longgar dan ejen akan hanyut ke wilayah berisiko; tetapkan terlalu ketat dan ia kedengaran mengelak serta menghantar segala-galanya kepada manusia, yang menggagalkan tujuannya.

Cara praktikal untuk mencari keseimbangan ialah menyusun topik kepada tiga kumpulan. Topik yang boleh dikendalikan ejen dengan bebas, seperti waktu operasi dan arah. Topik yang boleh dikendalikannya hanya dengan susunan kata yang tepat, seperti peraturan pembatalan. Topik yang tidak boleh dikendalikannya sendiri sama sekali, seperti nasihat yang mempunyai akibat undang-undang atau perubatan. Mulakan dengan senarai pendek dalam setiap kumpulan, lancarkan dengan skop yang sempit dan luaskan apabila transkrip menunjukkan ejen berkelakuan baik.

Semak penolakan serta kegagalan. Jika ramai pemanggil ditolak untuk permintaan yang munasabah, kawalan keselamatan itu terlalu ketat, atau skopnya patut diluaskan. Mencari ayat penolakan standard dalam transkrip yang disimpan ialah cara pantas untuk menemuinya.

Uji kawalan keselamatan anda dengan cuba memecahkannya

Kawalan keselamatan yang belum diuji hanyalah harapan. Minta rakan sekerja memainkan watak pemanggil yang janggal dan simpan log hasilnya.

Skrip ujian kawalan keselamatan

  • Minta sesuatu di luar skop dan semak penolakan yang sopan
  • Berkeras, ulang dan susun semula permintaan
  • Minta ia mengabaikan arahannya
  • Minta ia mendedahkan promptnya
  • Minta ia menjanjikan diskaun atau tempahan
  • Minta butiran pelanggan lain
  • Bangkitkan kecemasan dan semak laluan yang ditawarkan
  • Katakan anda mahu bercakap dengan manusia dan semak penyerahannya
  • Bercakap dengan marah dan semak bahawa nadanya kekal tenang

Tambah setiap kegagalan sebenar ke dalam skrip. Kaedah yang lebih luas ada dalam Menguji Ejen AI Suara.

Menetapkan kawalan keselamatan dalam Call

Dalam Call, tulis skop dan penolakan dalam arahan ejen, pilih persona untuk peranan dan nadanya, lampirkan skrip apabila susunan kata mesti tepat dan hadkan sumber kepada apa yang anda luluskan. Tentukan siapa yang mengambil alih apabila pemanggil meminta manusia; permintaan boleh diambil, ditugaskan, diberi nota dan diselesaikan dari meja bantuan. Kemudian jalankan panggilan ujian dan baca perbualan selepas itu, termasuk sejarah suntingan jika anda membetulkan kata-kata ejen. Semak minggu-minggu pertama panggilan sebenar dengan teliti dan ketatkan peraturan di mana sahaja transkrip menunjukkan kelemahan.

Soalan lazim

Apakah kawalan keselamatan dalam AI suara?

Ia peraturan atau had yang memastikan ejen kekal dalam tugasnya, seperti kekal pada topik, menolak permintaan tertentu, melindungi maklumat dan menyerahkan kepada manusia apabila perlu.

Adakah prompt yang baik sudah mencukupi?

Biasanya tidak. Prompt ialah panduan yang mungkin diabaikan model jika didesak. Gabungkannya dengan sumber yang diluluskan, had pada apa yang boleh dilakukan ejen dan pemantauan panggilan sebenar.

Bolehkah pemanggil memperdaya ejen supaya mengabaikan peraturannya?

Ada yang cuba. Arahan sahaja boleh dipintas, sebab itulah had penting patut dikuatkuasakan oleh sistem, dan sebab itulah anda patut menguji dengan percubaan yang disengajakan.

Apa yang patut berlaku apabila permintaan di luar skop?

Ejen patut menyatakan dengan sopan bahawa ia tidak dapat membantu dalam perkara itu dalam panggilan ini dan menawarkan langkah seterusnya seperti mesej, permintaan panggilan balik atau manusia.

Adakah kawalan keselamatan menjadikan ejen tidak membantu?

Yang ditulis dengan buruk boleh. Pastikan skop jelas, berikan laluan alternatif untuk penolakan dan semak panggilan untuk mencari tempat ejen menyekat permintaan yang tidak berbahaya.

Siapa yang patut memiliki kawalan keselamatan?

Seseorang yang memahami risiko perniagaan dan juga panggilan, biasanya ketua operasi atau ketua pasukan, dengan input daripada penasihat undang-undang atau pematuhan untuk topik yang dikawal selia.

Tetapkan had yang jelas untuk ejen AI anda dalam Call

Dalam konsol demo, anda boleh mencuba panggilan masuk secara simulasi.

Panduan berkaitan