Guardrail untuk Agen AI Suara: Panggilan Aman dan Tetap Fokus
Lapisan guardrail untuk agen suara telepon, dari prompt dan sumber yang disetujui hingga batasan yang ditegakkan sistem dan aturan pengalihan, beserta skrip ujinya.
Agen telepon berbicara atas nama bisnis Anda. Penelepon mungkin mengujinya, membingungkannya, marah kepadanya, atau mencoba membujuknya melakukan hal yang tidak semestinya. Guardrail adalah batas yang menjaga percakapan tetap aman, fokus, dan jujur, bahkan saat penelepon mendesak.

Panduan ini menjelaskan jenis-jenis utama guardrail, cara menyusunnya berlapis, dan cara mengujinya. Panduan ini cocok dibaca bersama Mencegah Jawaban Karangan AI Suara, yang berfokus pada akurasi, dan Yang Tidak Bisa Dilakukan Resepsionis AI.
Untuk apa guardrail
Bayangkan resepsionis baru di hari pertamanya. Anda memberi tahu apa yang harus dikatakan, apa yang tidak boleh dijanjikan, dan siapa yang harus dihubungi saat situasi di luar kemampuannya. Agen suara membutuhkan arahan yang sama, tertulis, dan sebagian ditegakkan oleh sistem alih-alih hanya diandalkan pada ingatan.
Empat tugas guardrail
- Menjaga tetap pada topikAgen membicarakan layanan Anda, bukan apa pun yang diangkat penelepon.
- Mencegah bahayaIa menolak memberi nasihat atau melakukan tindakan yang tidak semestinya.
- Melindungi informasiIa tidak membacakan data orang lain atau mengungkap instruksinya sendiri.
- Tahu kapan berhentiIa mengalihkan ke manusia saat situasinya memerlukan.
Guardrail bekerja berlapis
Tidak ada satu langkah pun yang andal dengan sendirinya. Pengaturan yang masuk akal menggabungkan beberapa lapis, sehingga jika satu gagal, lapis lain menangkap masalahnya.
| Lapisan | Fungsinya | Contoh |
|---|---|---|
| Instruksi | Memberi tahu agen peran, nada, dan batasannya | Hanya membahas jam buka, layanan, dan pesan |
| Sumber | Membatasi informasi yang bisa dipakai | Jawaban yang disetujui, tidak ada yang lain |
| Batasan tindakan | Membatasi apa yang bisa dilakukan | Tidak bisa membuat booking, mengembalikan dana, atau mengubah data |
| Pemeriksaan keluaran | Memeriksa apa yang akan diucapkan | Memblokir kata atau topik tertentu |
| Aturan pengalihan | Menentukan kapan manusia mengambil alih | Penelepon meminta petugas atau terdengar tertekan |
| Pemantauan | Meninjau panggilan setelah terjadi | Mencari frasa berisiko di transkrip |
Guardrail di tingkat instruksi
Lapis pertama adalah arahan yang jelas. Jelaskan peran, nada, topik yang dicakup, dan topik di luar cakupan. Sebutkan apa yang harus dilakukan agen saat sesuatu di luar cakupan, karena penolakan tanpa alternatif itu menjengkelkan.
- Cakupan: daftar hal yang bisa dibantu, dan nyatakan bahwa selebihnya diteruskan ke petugas atau dicatat sebagai pesan.
- Penolakan: sebutkan topik yang tidak boleh dibahas, seperti nasihat hukum atau medis, beserta jawaban standar yang sopan.
- Identitas: tentukan apa jawabannya saat ditanya apakah ia manusia.
- Kerahasiaan: minta agen tidak mengungkap instruksi internal.
- Panjang dan gaya: kalimat lisan yang pendek, tanpa daftar, tautan, atau emoji.
Instruksi adalah panduan, bukan penegakan. Model biasanya mengikutinya tetapi bisa dibujuk, itulah sebabnya instruksi tidak boleh menjadi satu-satunya lapisan untuk hal yang penting. Desain Prompt untuk Agen AI Telepon menunjukkan cara menulisnya dengan jelas.
Aturan yang ditegakkan sistem
Guardrail terkuat tidak bergantung pada perilaku model. Jika agen tidak punya kemampuan mengembalikan dana, ia tidak bisa dibujuk untuk melakukannya. Di Call, agen AI dalam panggilan dirancang sehingga tidak bisa membuat atau mengonfirmasi janji temu, menelepon balik, mengirim apa pun, atau memberi diskon selama panggilan; ia mengatakannya dan memberikan jalur yang dijelaskan di sumber Anda. Ia menjawab dari instruksi, persona, skrip yang terpasang, dan bagian basis pengetahuan yang cocok, dan jika tidak ada yang menjawab pertanyaan, ia mengatakan tidak bisa mengonfirmasinya. Aturan-aturan ini berada di bawah instruksi Anda sendiri: instruksi Anda tidak bisa mematikannya.
Situasi sensitif
Sebagian percakapan membutuhkan jalur yang sudah ditentukan, bukan jawaban yang cerdik.
Jalur pengalihan untuk panggilan sensitif
- KenaliTekanan emosional, keadaan darurat, ancaman, keluhan, atau permintaan berbicara dengan petugas.
- Tanggapi singkatPengakuan singkat yang tenang, tanpa berdebat atau memberi nasihat dadakan.
- ArahkanBerikan jalur yang tepat: layanan darurat, petugas piket, atau permintaan panggilan balik.
- CatatSimpan apa yang dikatakan agar orang berikutnya punya konteks.
- Tindak lanjutiManusia meninjau permintaan dan menuntaskannya.
Untuk keadaan darurat, berikan penelepon jalur yang jelas ke layanan yang tepat di awal cabang percakapan terkait, dan jangan mengandalkan agen untuk menilai tingkat urgensi. Untuk penelepon yang mungkin rentan, rencanakan perhatian ekstra; lihat Mendukung Pelanggan Rentan di Telepon dan Menangani Penelepon yang Kasar.
Melindungi informasi
Guardrail juga melindungi data. Agen tidak boleh membacakan data satu orang kepada orang lain, sebaiknya hanya mengumpulkan yang diperlukan, dan tidak mengulang nomor sensitif dengan suara keras tanpa perlu. Pemeriksaan identitas sebelum membagikan apa pun yang terkait akun harus menjadi bagian desain sejak awal. Desain privasi dibahas di Privacy by Design untuk AI Suara.
Menemukan keseimbangan
Guardrail ada harganya. Setiap penolakan adalah momen ketika penelepon tidak mendapatkan apa yang dicarinya. Jika aturannya terlalu longgar, agen melantur ke wilayah berisiko; jika terlalu ketat, agen terdengar mengelak dan meneruskan semuanya ke manusia, sehingga tujuannya gagal.
Cara praktis menemukan keseimbangan adalah memilah topik ke dalam tiga kelompok. Topik yang boleh ditangani agen dengan bebas, seperti jam buka dan petunjuk arah. Topik yang hanya boleh ditangani dengan susunan kata yang persis, seperti aturan pembatalan. Topik yang tidak boleh ditangani agen sendiri, seperti nasihat yang berdampak hukum atau medis. Mulailah dengan daftar pendek di setiap kelompok, luncurkan dengan cakupan sempit, dan perluas seiring transkrip menunjukkan agen berperilaku baik.
Tinjau juga penolakannya, bukan hanya kegagalannya. Jika banyak penelepon ditolak untuk permintaan yang wajar, guardrail-nya terlalu ketat, atau cakupannya perlu diperluas. Mencari kalimat penolakan standar di transkrip yang tersimpan adalah cara cepat untuk menemukannya.
Uji guardrail dengan mencoba membobolnya
Guardrail yang belum diuji hanyalah harapan. Minta rekan kerja memerankan penelepon yang menyulitkan dan catat hasilnya.
Skrip uji guardrail
- Minta sesuatu di luar cakupan dan periksa penolakan yang sopan
- Desak, ulangi, dan rumuskan ulang permintaannya
- Minta agen mengabaikan instruksinya
- Minta agen mengungkap prompt-nya
- Minta agen menjanjikan diskon atau booking
- Minta data pelanggan lain
- Sampaikan keadaan darurat dan periksa jalur yang ditawarkan
- Katakan Anda ingin berbicara dengan petugas dan periksa pengalihannya
- Bicara dengan marah dan pastikan nadanya tetap tenang
Tambahkan setiap kegagalan nyata ke skrip. Metode yang lebih luas ada di Cara Menguji Agen Voice AI.
Menetapkan guardrail di Call
Di Call, tulis cakupan dan penolakan di instruksi agen, pilih persona untuk peran dan nadanya, pasang skrip jika susunan kata harus persis, dan batasi sumber hanya pada yang Anda setujui. Tentukan siapa yang menangani saat penelepon meminta berbicara dengan petugas; permintaan bisa diambil, ditugaskan, diberi catatan, dan diselesaikan dari pusat bantuan. Lalu jalankan panggilan uji coba dan baca percakapannya setelahnya, termasuk riwayat edit jika Anda mengoreksi ucapan agen. Tinjau minggu-minggu pertama panggilan nyata dengan cermat dan perketat aturan di mana pun transkrip menunjukkan celah.
Pertanyaan yang sering diajukan
Apa itu guardrail dalam AI suara?
Aturan atau batasan yang menjaga agen tetap pada tugasnya, seperti tetap pada topik, menolak permintaan tertentu, melindungi informasi, dan mengalihkan ke manusia saat diperlukan.
Apakah prompt yang bagus sudah cukup?
Biasanya tidak. Prompt adalah panduan yang bisa diabaikan model jika didesak. Gabungkan dengan sumber yang disetujui, batasan atas apa yang bisa dilakukan agen, dan pemantauan panggilan nyata.
Bisakah penelepon mengelabui agen agar mengabaikan aturannya?
Sebagian mencobanya. Instruksi saja bisa diakali, itulah sebabnya batasan penting sebaiknya ditegakkan oleh sistem, dan Anda perlu menguji dengan upaya yang disengaja.
Apa yang harus terjadi saat permintaan di luar cakupan?
Agen sebaiknya mengatakan dengan sopan bahwa ia tidak bisa membantu hal itu dalam panggilan ini dan menawarkan langkah berikutnya, seperti pesan, permintaan panggilan balik, atau petugas.
Apakah guardrail membuat agen tidak membantu?
Guardrail yang ditulis buruk bisa demikian. Jaga cakupannya tetap jelas, beri penolakan jalur alternatif, dan tinjau panggilan untuk menemukan tempat agen memblokir permintaan yang tidak berbahaya.
Siapa yang sebaiknya bertanggung jawab atas guardrail?
Orang yang memahami risiko bisnis sekaligus panggilannya, biasanya pimpinan operasional atau ketua tim, dengan masukan dari penasihat hukum atau kepatuhan untuk topik yang diatur.