Teknologi AI suara

RAG untuk Ejen Suara: Menjawab daripada Kandungan Sendiri

Cara RAG membolehkan AI telefon menjawab daripada dokumen dan Soalan Lazim anda, dengan petua menyediakan kandungan, mengurangkan ralat dan menguji jawapan.

Pasukan editorial Call · Diterbitkan · Bacaan 5 min

Model bahasa tahu banyak tentang dunia tetapi tidak tahu apa-apa tentang perniagaan anda. Ia tidak tahu waktu operasi anda, dasar pembatalan anda atau nama juruteknik yang mengendalikan pembaikan dandang. Jika anda memintanya menjawab soalan pemanggil tanpa maklumat itu, ia mungkin meneka. Penjanaan berbantu dapatan semula, biasanya dipendekkan kepada RAG, ialah penyelesaian standard: cari bahagian berkaitan dalam kandungan anda sendiri, berikan kepada model bersama soalan, dan minta ia menjawab berdasarkan bahan itu.

Seseorang menyusun dokumen bercetak dan komputer riba untuk menyediakan pangkalan pengetahuan bagi pembantu
Imej ilustrasi

Panduan ini menerangkan cara RAG berfungsi dalam konteks panggilan telefon, cara menyediakan kandungan untuknya, di mana ia boleh tersilap dan cara mengujinya. Untuk latar belakang tentang aliran prosesnya, lihat Cara AI Suara Berfungsi: STT, LLM dan TTS.

Cara RAG berfungsi dalam panggilan

Apabila pemanggil bertanya, ejen suara yang menggunakan RAG biasanya melakukan perkara berikut:

Laluan dapatan semula

  1. DengarPengecaman pertuturan menukar kata-kata pemanggil kepada teks.
  2. CariSistem mencari petikan dalam kandungan anda yang berkaitan dengan soalan.
  3. PilihIa menyimpan beberapa petikan paling berkaitan dan membuang yang lain.
  4. SusunModel bahasa menulis jawapan ringkas menggunakan soalan dan petikan tersebut.
  5. TuturkanTeks-ke-pertuturan membacakan jawapan dengan kuat.

Mengapa tidak berikan semuanya kepada model?

Anda boleh cuba menampal semua kandungan anda ke dalam arahan. Tetapi ruang kerja model terhad, arahan yang panjang melambatkan balasan, dan timbunan teks yang besar memudahkan model terlepas satu baris yang penting. Dapatan semula memastikan set kerja kecil dan relevan.

Apa maksud "carian"

Carian boleh berasaskan kata kunci, berasaskan makna (mencari petikan yang serupa maksudnya walaupun perkataannya berbeza) atau gabungan kedua-duanya. Carian berasaskan makna membantu apabila pemanggil menyusun soalan dengan cara tidak dijangka, seperti "boleh saya datang hari Ahad?" sedangkan kandungan anda menyebut "waktu hujung minggu". Apa pun kaedahnya, petikan ialah cebisan kecil dokumen anda, jadi cara anda menulis dan memecahkan kandungan secara langsung mempengaruhi apa yang ditemui.

Memilih dan menyediakan kandungan

Prinsip "kualiti masuk, kualiti keluar" amat benar di sini. Ejen suara hanya setepat bahan di sebaliknya.

Sumber kandungan yang biasa

  • Soalan Lazim dan pasangan soal jawabJawapan tepat kepada soalan khusus; sumber paling boleh dipercayai untuk panggilan biasa.
  • Halaman webHalaman sedia ada tentang perkhidmatan, waktu operasi dan dasar, dibaca sekali atau dirangkak merentas laman.
  • DokumenFail PDF dan pemproses kata dengan senarai harga, menu atau prosedur, jika teksnya boleh dipilih.
  • Teks bebasNota untuk peraturan yang tidak sesuai di tempat lain, seperti cara mengendalikan cuti umum.
  • Pembetulan daripada panggilan sebenarJawapan yang dibetulkan oleh manusia selepas mendengar panggilan.

Tulis untuk telinga

Kandungan yang ditulis untuk dibaca sering kedengaran janggal apabila dituturkan. Jadual, senarai panjang dan singkatan tidak sesuai dibacakan. Tulis semula jawapan utama dalam ayat mudah, satu fakta bagi setiap ayat, dan nyatakan cara nombor dan masa patut disebut. Pastikan setiap petikan lengkap dengan sendirinya supaya ia masuk akal tanpa halaman di sekelilingnya.

Buang percanggahan

Jika satu halaman menyatakan anda tutup pukul lima dan satu lagi menyatakan pukul enam, ejen akan menyebut salah satu secara rawak. Sebelum mengimport apa-apa, cari halaman lama, draf dan fail pendua, kemudian kemas kini atau padamkannya. Tambah tarikh pada dasar supaya yang terbaharu diutamakan.

Tentukan apa yang di luar batasan

Beritahu ejen apa yang tidak patut dijawabnya: nasihat undang-undang, perubatan atau kewangan, apa-apa tentang akaun individu tertentu, atau topik yang hanya dikendalikan oleh manusia. Respons yang betul ialah penyerahan yang sopan. Lihat Pagar Keselamatan untuk Ejen AI Suara.

Di mana RAG tersilap

RAG mengurangkan halusinasi tetapi tidak menghapuskannya. Kegagalan biasa ialah:

Mod kegagalan

Apa yang berlakuPenyelesaian
Tiada yang berkaitan ditemuiEjen berimprovisasi berdasarkan pengetahuan umum.Arahkan ia mengatakan ia tidak tahu dan menawarkan manusia; tambah kandungan yang tiada.
Petikan salah ditemuiDasar yang bunyinya serupa untuk perkhidmatan lain digunakan.Tulis semula petikan dengan tajuk yang jelas; asingkan topik yang serupa.
Kandungan lapukEjen menyebut waktu operasi tahun lepas.Berikan setiap sumber pemilik dan tarikh semakan.
Dapatan terlalu panjangTeks terlalu banyak melambatkan balasan dan mengelirukan jawapan.Gunakan petikan yang lebih pendek dan berfokus.
Soalan tersalah dengarRalat pengecaman pertuturan membawa kepada carian yang salah.Uji dengan audio bising dan pelbagai loghat; sahkan butiran penting.

Untuk penerangan lebih mendalam tentang mencegah jawapan rekaan, baca Mencegah Jawapan Rekaan dalam AI Suara. Untuk membolehkan ejen mencari fakta langsung, seperti status pesanan, dan bukan teks statik, lihat Membolehkan Ejen Suara Mencari Maklumat.

Bajet kelajuan

Perbualan telefon hanya boleh menerima kelewatan yang sangat sedikit. Setiap langkah tambahan, seperti carian, menambah masa. Pastikan sumber kemas dan kecil, elakkan mendapatkan lebih banyak petikan daripada yang diperlukan jawapan, dan uji masa respons pada panggilan sebenar, bukan pada komputer riba. Kependaman AI Suara menerangkan bagaimana kelewatan dirasai dan dari mana ia datang.

Pastikan sentiasa terkini

Waktu operasi, harga dan dasar berubah lebih cepat daripada ingatan sesiapa untuk mengemas kini pangkalan pengetahuan. Letakkan peringatan berulang dalam kalendar kongsi: sebelum setiap musim, cuti atau perubahan harga, pemilik kandungan menyemak sumber dan mengindeksnya semula. Selepas sesuatu perubahan, telefon ejen sendiri dan tanya tentang perkara yang berubah. Semakan tiga puluh saat mengelakkan sehari jawapan yang salah.

Uji sebelum dan selepas pelancaran

Sediakan senarai soalan dalam tiga kumpulan: soalan yang dijawab dengan jelas oleh kandungan, soalan yang dijawab sebahagiannya, dan soalan yang tidak diliputi. Bagi setiap satu, rekod apa yang dikatakan ejen. Pastikan ia betul, cukup pendek untuk dituturkan, dan bagi kumpulan ketiga ia mengakui tidak tahu. Jalankan semula senarai setiap kali kandungan berubah.

Rutin ujian

  • Tanya setiap soalan biasa dalam dua atau tiga susunan kata yang berbeza.
  • Tanya soalan yang sama dengan talian bising atau loghat yang pekat.
  • Minta sesuatu yang tiada dalam kandungan.
  • Tanya soalan berperangkap, seperti harga lama atau hari tutup.
  • Dengar jawapan yang terlalu panjang untuk diikuti dengan telinga.
  • Semak transkrip panggilan sebenar setiap minggu pada bulan pertama.

Pembetulan yang kekal

Apabila manusia menemui jawapan yang salah, membetulkan transkrip tidak memadai; pembetulan itu perlu dimasukkan semula ke dalam pangkalan pengetahuan supaya ejen menjawab dengan betul pada kali seterusnya. Tentukan siapa yang dibenarkan membuat perubahan itu dan simpan sejarah perubahan.

Melaksanakannya dalam Call

Dalam Call, pengetahuan dimiliki oleh ejen AI dan ditambah di bawah Sumber:

Storan dikongsi di seluruh organisasi, dengan had bagi setiap sumber, dan hanya pengurus ruang kerja boleh menambah, mengubah atau memadam sumber. Sepanduk dipaparkan apabila panggilan langsung belum menggunakan pangkalan pengetahuan. Sejarah panggilan membolehkan anda membetulkan jawapan yang diberikan ejen dan, jika anda mahu, menyimpannya sebagai jawapan betul untuk kali seterusnya. Mulakan dengan Menggunakan Sumber Pengetahuan dalam Call dan Membina Pangkalan Pengetahuan untuk Sokongan dan AI.

Soalan lazim

Adakah RAG sama dengan melatih model menggunakan data saya?

Tidak. Latihan mengubah model itu sendiri. RAG mengekalkan model tanpa perubahan dan memberikannya petikan berkaitan daripada kandungan anda pada saat soalan ditanya, yang lebih mudah dikemas kini dan lebih mudah disemak.

Adakah RAG menghalang ejen suara daripada mereka-reka jawapan?

Ia mengurangkan masalah tetapi tidak menghapuskannya. Ejen masih boleh tersalah baca petikan atau menjawab soalan yang tidak diliputi kandungan anda. Arahan yang jelas, kandungan yang baik dan ujian berkala memastikan ralat kekal rendah.

Berapa banyak kandungan yang saya perlukan?

Lebih sedikit daripada jangkaan kebanyakan orang. Beberapa dozen pasangan soal jawab yang tepat dan meliputi panggilan paling biasa anda selalunya mengatasi arkib besar yang tidak disunting. Tambah lagi apabila panggilan sebenar menunjukkan jurang.

Bolehkah ejen menggunakan kandungan dalam PDF?

Biasanya boleh, jika PDF mempunyai teks yang boleh dipilih. PDF imbasan imej sahaja memerlukan pengecaman teks dahulu. Semak apa yang diekstrak oleh sistem, kerana jadual dan lajur mungkin keluar bercampur aduk.

Berapa kerap saya patut mengemas kini pangkalan pengetahuan?

Setiap kali fakta berubah, dan pada tarikh semakan berkala untuk semua yang lain. Berikan setiap sumber seorang pemilik supaya kemas kini tidak dibiarkan bergantung pada nasib.

Tambah sumber pengetahuan kepada ejen AI anda dan semak jawapannya dalam Call

Dalam konsol demo, anda boleh mencuba panggilan masuk secara simulasi.

Panduan berkaitan