Mencegah Jawapan Rekaan AI Suara dalam Panggilan Telefon
Mengapa ejen suara kadangkala menyatakan perkara yang tidak benar, dan langkah praktikal untuk mengehadkannya: sumber berasas, sandaran selamat dan soalan perangkap.
Tanya ejen suara tentang waktu operasi anda dan ia akan menjawab dengan lancar. Masalah timbul apabila ia menjawab dengan sama lancar tentang sesuatu yang tidak pernah diberitahu kepadanya. Inilah yang dimaksudkan dengan halusinasi: output yang kedengaran betul tetapi tidak berasaskan maklumat anda.

Di talian telefon, risikonya lebih tajam berbanding tetingkap sembang. Pemanggil mendengar satu ayat yang yakin tanpa pautan, tanpa sumber dan tanpa cara mudah untuk menyemak semula. Panduan ini menerangkan mengapa halusinasi berlaku, cara mengurangkannya dan cara menyemak bahawa pembetulan anda berkesan.
Apa itu halusinasi, dan mengapa ia berlaku
Model bahasa menghasilkan sambungan perbualan yang paling munasabah. Ia dilatih dengan teks yang sangat banyak dan tidak mempunyai deria terbina dalam tentang kenyataan mana yang benar bagi perniagaan anda. Apabila jawapan tiada dalam prompt atau sumber, model boleh mengisi jurang itu dengan sesuatu yang kelihatan munasabah.
Punca lazim pada ejen telefon
- Maklumat yang tiadaPemanggil bertanya sesuatu yang tidak pernah ditulis, jadi model berimprovisasi.
- Maklumat lapukHarga atau waktu operasi lama masih tertinggal dalam sumber.
- Sumber yang samarDua dokumen bercanggah dan ejen memilih salah satu.
- Tekanan untuk membantuPrompt yang berkata sentiasa jawab menggalakkan tekaan.
- Ralat pengecaman pertuturanPerkataan yang tersalah dengar mengubah soalan, jadi ejen menjawab soalan yang lain.
Punca terakhir mudah terlepas pandang. Jika transkrip menyebut Selasa sedangkan pemanggil berkata Khamis, jawapannya mungkin tepat sepenuhnya untuk soalan yang salah. Lihat Pengecaman Pertuturan dalam Panggilan Telefon untuk cara ralat pengecaman berlaku.
Rupanya dalam amalan
Sebuah klinik pergigian hipotetikal mungkin memberitahu ejennya tentang waktu operasi dan perkhidmatan yang ditawarkan. Seorang pemanggil bertanya sama ada klinik menerima pelan insurans tertentu. Tanpa maklumat tentangnya, ejen yang cuai mungkin berkata ya, kerana banyak klinik menerimanya. Pemanggil datang dengan menjangkakan perlindungan dan berasa kecewa. Penyelesaiannya bukan model yang lebih pintar tetapi arahan yang jelas dan sumber yang menyatakan apa yang perlu dilakukan apabila jawapannya tidak diketahui.
Topik berisiko tinggi yang lazim ialah harga, ketersediaan, nasihat undang-undang atau perubatan, janji bayaran balik dan apa-apa yang kedengaran seperti komitmen. Tandakan topik ini sebagai kawasan yang ejen tidak boleh berimprovisasi.
Mengapa suara memburukkannya
Jawapan chatbot bertulis boleh disertakan pautan, penafian atau senarai sumber yang kelihatan. Pertuturan tidak membawa apa-apa daripada ini. Suara sintetik juga lancar dan stabil, jadi tekaan kedengaran sama seperti fakta; tiada keraguan yang memberi amaran kepada pemanggil. Pemanggil sering bertindak serta-merta berdasarkan apa yang mereka dengar, dengan memandu ke suatu tempat, membatalkan sesuatu atau membayar sesuatu.
Itulah sebabnya reka bentuk ejen telefon patut cenderung kepada kekangan. Jawapan jujur yang ringkas dan merujuk kepada manusia hanya mengambil beberapa saat. Jawapan salah yang yakin boleh menyebabkan kehilangan pelanggan. Apabila memutuskan tahap ketegasan, fikirkan akibat paling buruk yang munasabah daripada jawapan salah bagi setiap topik dan tetapkan peraturan sewajarnya: longgar untuk waktu operasi, ketat untuk apa-apa yang melibatkan wang, kesihatan atau hak undang-undang.
Cara mengurangkan jawapan rekaan
Pendekatan berlapis
- Asaskan ejenBerikan fakta yang diluluskan dan arahkan ia menjawab hanya daripadanya.
- Takrifkan perkara yang tidak diketahuiTulis apa yang patut dikatakannya apabila tiada jawapan.
- Hadkan komitmenLarang janji yang tidak dapat ditepatinya, seperti diskaun atau tempahan yang disahkan.
- Tawarkan laluanSentiasa sediakan manusia, mesej atau panggilan balik sebagai langkah seterusnya.
- Uji dan semakCuba soalan di luar sumber dan baca transkrip sebenar.
Asaskan ia pada sumber yang diluluskan
Perolehan semula bermaksud mencari petikan berkaitan daripada dokumen anda pada saat soalan ditanya dan hanya memberikan petikan itu kepada model. Ini memastikan jawapan terikat pada teks yang anda tulis. Perolehan Semula untuk Ejen Suara menerangkan ideanya, dan Sumber Pengetahuan dalam Call menunjukkan rupanya dalam produk.
Tulis fakta yang ringkas dan tidak samar
Satu fakta bagi setiap entri, dengan syarat disertakan, lebih berkesan daripada brosur yang panjang. Daripada menulis "Kami dibuka pada hujung minggu", tulis "Sabtu 9 hingga 13, tutup pada hari Ahad". Jika sesuatu topik mempunyai pengecualian, nyatakannya dalam entri yang sama.
Gunakan jawapan tepat untuk soalan utama
Untuk soalan yang susunan katanya penting, seperti peraturan pembatalan, berikan ejen jawapan tepat untuk dibacakan. Dalam Call, anda boleh menambah soalan dan jawapan tepat yang patut diberikan ejen, jadi ia tidak perlu mengolah semula.
Ajar ia berkata saya tidak tahu
Jawapan jujur seperti "Saya tidak dapat mengesahkannya dalam panggilan ini, tetapi saya boleh ambil butiran anda dan minta seseorang menghubungi anda semula" jauh lebih baik daripada tekaan. Dalam Call, ejen direka untuk menyatakan dengan jelas bahawa ia tidak dapat mengesahkan sesuatu apabila tiada apa-apa dalam arahan atau sumbernya yang menjawab soalan, dan menawarkan manusia jika talian boleh memindahkan pemanggil. Ia juga tidak pernah mereka-reka harga, waktu operasi, tarikh atau fakta lain yang tidak dinyatakan dalam arahan dan sumber anda, dan arahan anda tidak boleh mematikan peraturan ini.
Jawapan berasas berbanding tidak berasas
Soalan sama, dua persediaan
| Ejen tidak berasas | Ejen berasas | |
|---|---|---|
| Sumber jawapan | Pengetahuan umum dan tekaan yang munasabah | Fakta anda yang diluluskan sahaja |
| Apabila maklumat tiada | Mereka-reka sesuatu yang lancar | Menyatakan ia tidak dapat mengesahkan, menawarkan langkah seterusnya |
| Risiko kepada pemanggil | Mungkin bertindak berdasarkan butiran yang salah | Tahu apa yang tidak pasti |
| Penyelenggaraan | Mudah dimulakan, sukar dipercayai | Memerlukan sumber yang sentiasa terkini |
Uji halusinasi dengan sengaja
Jangan tunggu pelanggan menemui kelemahannya. Bina set kecil soalan perangkap dan jalankannya setiap kali anda mengubah prompt atau sumber.
Set ujian halusinasi
- Tanya tentang perkhidmatan yang tidak anda tawarkan
- Minta harga yang tiada dalam sumber
- Tanya tentang pengecualian polisi yang tidak pernah ditulis
- Minta tarikh yang jauh pada masa hadapan
- Tanya soalan dengan susunan kata berbeza daripada jawapan bertulis anda
- Tanya sesuatu yang kedengaran serupa dengan topik yang diliputi
- Semak bahawa setiap perkara yang tidak diketahui berakhir dengan langkah seterusnya yang selamat
Ulang set itu selepas perubahan, dan tambah setiap kegagalan sebenar yang anda temui ke dalamnya. Proses ujian yang lebih luas diterangkan dalam Menguji Ejen AI Suara.
Terus memantau selepas pelancaran
Kawalan halusinasi bukan tugas sekali sahaja. Maklumat berubah, soalan baharu muncul dan prompt berubah sedikit demi sedikit apabila orang menyuntingnya. Tetapkan rutin: baca sampel transkrip setiap minggu, cari frasa yang menandakan keraguan, dan kemas kini sumber. Dalam Call, anda boleh membuka perbualan penuh mana-mana panggilan, mencari frasa dalam semua transkrip yang disimpan dan melihat sejarah pembetulan yang dibuat pada kata-kata ejen. Ingat bahawa transkrip disimpan untuk tempoh terhad, jadi semaklah dengan segera.
Melaksanakannya dalam Call
Mulakan dengan menulis soalan yang paling kerap ditanya sebagai pasangan soalan dan jawapan yang tepat, tambah sumber fakta ringkas untuk perkara lain, dan lampirkan ejen pada talian hanya selepas ujian. Jika anda mahukan bantuan merangka prompt yang tidak menggalakkan tekaan, baca Menulis Prompt untuk Ejen Telefon LLM. Kawalan keselamatan yang melengkapi kerja ini dibincangkan dalam Kawalan Keselamatan untuk Ejen AI Suara.
Soalan lazim
Apakah halusinasi AI suara?
Ia jawapan yang kedengaran yakin tetapi tidak disokong oleh maklumat anda, contohnya harga atau polisi rekaan. Ia berlaku apabila model mengisi jurang dan bukannya mengakui bahawa ia tidak tahu.
Bolehkah halusinasi dihapuskan sepenuhnya?
Tiada alat yang boleh menjanjikannya. Anda boleh mengurangkannya dengan ketara dengan mengehadkan apa yang boleh dikatakan ejen, memastikan sumber terkini dan memberikannya sandaran yang selamat, tetapi anda patut terus menguji dan menyemak.
Mengapa ejen menjawab soalan yang tidak pernah saya ajarkan?
Model bahasa dibina untuk menghasilkan teks yang munasabah. Tanpa arahan yang jelas untuk kekal dalam sumber anda dan menyatakan apabila ia tidak dapat mengesahkan sesuatu, ia mungkin berimprovisasi.
Adakah perkataan yang tersalah dengar sama dengan halusinasi?
Tidak sepenuhnya. Perkataan yang tersalah dengar ialah ralat pengecaman, tetapi ia boleh membawa kepada jawapan salah yang kelihatan seperti halusinasi. Semak transkrip untuk melihat yang mana satu berlaku.
Topik mana yang paling berisiko?
Harga, ketersediaan, nasihat perubatan atau undang-undang, bayaran balik dan sebarang janji atau komitmen. Berikan ejen susunan kata yang tepat atau penyerahan kepada manusia untuk topik ini.
Berapa kerap saya patut menyemak transkrip?
Setiap hari atau setiap beberapa hari semasa pelancaran, kemudian setiap minggu. Semak lebih kerap selepas anda mengubah prompt atau sumber.