RAG untuk Voice Agent: Menjawab dari Konten Milik Anda Sendiri
Cara retrieval-augmented generation membuat AI telepon menjawab dari dokumen dan FAQ Anda, plus tips menyiapkan konten, menekan kesalahan, dan menguji jawaban.
Model bahasa tahu banyak tentang dunia, tetapi tidak tahu apa pun tentang bisnis Anda. Model itu tidak tahu jam buka Anda, kebijakan pembatalan Anda, atau nama teknisi yang menangani perbaikan boiler. Jika Anda memintanya menjawab pertanyaan penelepon tanpa informasi tersebut, model itu bisa menebak. Retrieval-augmented generation, biasanya disingkat RAG, adalah solusi standarnya: temukan bagian yang relevan dari konten Anda sendiri, berikan kepada model bersama pertanyaannya, lalu minta model menjawab berdasarkan materi itu.

Panduan ini menjelaskan cara kerja RAG dalam konteks panggilan telepon, cara menyiapkan konten untuknya, di mana RAG bisa keliru, dan cara mengujinya. Untuk latar belakang alurnya, lihat Cara Kerja Voice AI: STT, LLM, dan TTS.
Cara kerja RAG dalam panggilan
Saat penelepon mengajukan pertanyaan, voice agent yang memakai RAG umumnya melakukan hal berikut:
Alur pencarian
- MendengarPengenalan suara mengubah ucapan penelepon menjadi teks.
- MencariSistem mencari bagian konten Anda yang berkaitan dengan pertanyaan.
- MemilihSistem menyimpan beberapa bagian yang paling relevan dan membuang sisanya.
- MenyusunModel bahasa menulis jawaban singkat berdasarkan pertanyaan dan bagian-bagian tersebut.
- BerbicaraText-to-speech membacakan jawabannya.
Mengapa tidak memberikan semuanya kepada model?
Anda bisa saja menempelkan seluruh konten ke dalam instruksi. Namun ruang kerja model terbatas, instruksi yang panjang memperlambat jawaban, dan tumpukan teks yang besar membuat model lebih mudah melewatkan satu baris yang justru penting. Pencarian menjaga materi kerja tetap kecil dan relevan.
Apa arti "pencarian" di sini
Pencarian bisa berbasis kata kunci, berbasis makna (menemukan bagian dengan makna serupa meskipun kata-katanya berbeda), atau gabungan keduanya. Pencarian berbasis makna membantu saat penelepon merumuskan pertanyaan dengan cara tak terduga, misalnya "boleh datang hari Minggu?" padahal konten Anda menyebut "jam buka akhir pekan". Apa pun metodenya, bagian yang dicari adalah potongan kecil dokumen Anda, sehingga cara Anda menulis dan memecah konten langsung memengaruhi apa yang ditemukan.
Memilih dan menyiapkan konten
Prinsip masukan berkualitas menghasilkan keluaran berkualitas sangat berlaku di sini. Voice agent hanya bisa seakurat materi di belakangnya.
Sumber konten yang umum
- FAQ dan pasangan tanya-jawabJawaban tepat untuk pertanyaan tertentu; sumber paling andal untuk panggilan yang sering muncul.
- Halaman webHalaman yang sudah ada tentang layanan, jam buka, dan kebijakan, dibaca sekali atau dirayapi di seluruh situs.
- DokumenFile PDF dan pengolah kata berisi daftar harga, menu, atau prosedur, asalkan teksnya bisa dipilih.
- Teks bebasCatatan untuk aturan yang tidak cocok ditaruh di tempat lain, misalnya cara menangani hari libur.
- Koreksi dari panggilan nyataJawaban yang diperbaiki seseorang setelah mendengarkan panggilan.
Tulis untuk didengar
Konten yang ditulis untuk dibaca sering terdengar janggal saat diucapkan. Tabel, daftar panjang, dan singkatan tidak berfungsi jika dibacakan. Tulis ulang jawaban-jawaban utama dalam kalimat sederhana, satu fakta per kalimat, dan tuliskan cara angka serta waktu harus diucapkan. Buat setiap bagian berdiri sendiri agar tetap masuk akal tanpa halaman di sekitarnya.
Hilangkan kontradiksi
Jika satu halaman menyebut Anda tutup pukul lima dan halaman lain menyebut pukul enam, agen akan menyebut salah satunya secara acak. Sebelum mengimpor apa pun, cari halaman lama, draf, dan file duplikat, lalu perbarui atau hapus. Cantumkan tanggal pada kebijakan agar yang terbaru yang dipakai.
Tentukan batas yang tidak boleh dijawab
Beri tahu agen apa yang tidak boleh dijawabnya: nasihat hukum, medis, atau keuangan, apa pun tentang akun orang tertentu, atau topik yang hanya ditangani oleh manusia. Respons yang tepat adalah mengalihkan dengan sopan. Lihat Guardrail untuk Agen Voice AI.
Di mana RAG bisa keliru
RAG mengurangi halusinasi tetapi tidak menghapusnya. Kegagalan yang umum adalah:
Jenis kegagalan
| Yang terjadi | Solusi | |
|---|---|---|
| Tidak ada yang relevan | Agen berimprovisasi dari pengetahuan umum. | Instruksikan agen untuk mengatakan bahwa ia tidak tahu dan menawarkan petugas; tambahkan konten yang kurang. |
| Bagian yang salah ditemukan | Kebijakan yang terdengar mirip untuk layanan lain yang dipakai. | Tulis ulang bagian dengan judul yang jelas; pisahkan topik yang mirip. |
| Konten usang | Agen menyebut jam buka tahun lalu. | Beri setiap sumber penanggung jawab dan tanggal tinjauan. |
| Hasil pencarian terlalu panjang | Teks yang terlalu banyak memperlambat jawaban dan mengaburkan isinya. | Gunakan bagian yang lebih pendek dan terfokus. |
| Pertanyaan salah dengar | Kesalahan pengenalan suara membuat pencarian keliru. | Uji dengan audio bising dan beragam aksen; konfirmasi detail penting. |
Untuk pembahasan lebih dalam tentang mencegah jawaban karangan, baca Mencegah Jawaban Karangan pada Voice AI. Agar agen mencari fakta terkini, seperti status pesanan, alih-alih teks statis, lihat Membuat Voice Agent Bisa Mencari Informasi.
Anggaran kecepatan
Percakapan telepon hanya menoleransi jeda yang sangat kecil. Setiap langkah tambahan, seperti pencarian, menambah waktu. Jaga sumber tetap rapi dan ringkas, hindari mengambil lebih banyak bagian daripada yang dibutuhkan jawaban, dan uji waktu respons pada panggilan nyata, bukan di laptop. Latensi Voice AI menjelaskan bagaimana jeda dirasakan dan dari mana asalnya.
Jaga agar tetap mutakhir
Jam buka, harga, dan kebijakan berubah lebih cepat daripada ingatan orang untuk menyunting basis pengetahuan. Pasang pengingat berulang di kalender bersama: sebelum setiap musim, hari libur, atau perubahan harga, penanggung jawab konten meninjau sumber dan mengindeksnya ulang. Setelah ada perubahan, telepon agen sendiri dan tanyakan hal yang berubah itu. Pemeriksaan tiga puluh detik mencegah jawaban keliru seharian.
Uji sebelum dan sesudah peluncuran
Buat daftar pertanyaan dalam tiga kelompok: pertanyaan yang dijawab konten dengan jelas, pertanyaan yang dijawab sebagian, dan pertanyaan yang tidak tercakup. Untuk masing-masing, catat apa yang dikatakan agen. Periksa apakah jawabannya benar, cukup singkat untuk diucapkan, dan untuk kelompok ketiga, apakah agen mengakui bahwa ia tidak tahu. Jalankan ulang daftar ini setiap kali konten berubah.
Rutinitas pengujian
- Ajukan setiap pertanyaan umum dengan dua atau tiga rumusan berbeda.
- Ajukan pertanyaan yang sama dengan saluran bising atau aksen yang kental.
- Tanyakan sesuatu yang tidak ada di konten.
- Ajukan pertanyaan jebakan, misalnya harga lama atau hari tutup.
- Perhatikan jawaban yang terlalu panjang untuk diikuti dengan telinga.
- Tinjau transkrip panggilan nyata setiap minggu selama bulan pertama.
Koreksi yang benar-benar melekat
Saat seseorang menemukan jawaban yang salah, memperbaiki transkrip saja tidak cukup; koreksinya harus dimasukkan kembali ke basis pengetahuan agar agen menjawab dengan benar lain kali. Tentukan siapa yang boleh melakukan perubahan itu dan simpan riwayat perubahannya.
Menerapkannya di Call
Di Call, pengetahuan dimiliki oleh agen AI dan ditambahkan melalui menu Sumber:
- Tanya-jawab. Tambahkan pertanyaan dan jawaban persisnya, lalu gunakan "periksa pertanyaan" untuk melihat apa yang ditemukan basis pengetahuan untuknya.
- Situs web. Baca satu halaman, seluruh situs, atau halaman pilihan; halaman yang menurut robots.txt situs tidak boleh dibaca crawler akan dilewati.
- File. Unggah file PDF, Word, teks, markdown, CSV, atau JSON. PDF harus memiliki teks yang bisa dipilih; PDF yang hanya berisi gambar perlu dikenali teksnya terlebih dahulu.
- Teks. Tambahkan catatan teks bebas.
- Indeks ulang. Bangun ulang pencarian agen setelah banyak perubahan.
Penyimpanan digunakan bersama di seluruh organisasi, dengan batas per sumber, dan hanya pengelola workspace yang dapat menambah, mengubah, atau menghapus sumber. Sebuah banner muncul jika panggilan langsung belum memakai basis pengetahuan. Riwayat panggilan memungkinkan Anda mengoreksi jawaban yang diberikan agen dan, jika Anda mau, menyimpannya sebagai jawaban yang benar untuk lain kali. Mulailah dengan Menggunakan Sumber Pengetahuan di Call dan Membangun Basis Pengetahuan untuk Layanan Dukungan dan AI.
Pertanyaan yang sering diajukan
Apakah RAG sama dengan melatih model menggunakan data saya?
Tidak. Pelatihan mengubah model itu sendiri. RAG membiarkan model apa adanya dan memberinya bagian yang relevan dari konten Anda pada saat pertanyaan diajukan, sehingga lebih mudah diperbarui dan lebih mudah diperiksa.
Apakah RAG mencegah voice agent mengarang jawaban?
RAG mengurangi masalahnya tetapi tidak menghilangkannya. Agen masih bisa salah membaca suatu bagian atau menjawab pertanyaan yang tidak tercakup dalam konten Anda. Instruksi yang jelas, konten yang baik, dan pengujian rutin menjaga kesalahan tetap rendah.
Berapa banyak konten yang saya butuhkan?
Lebih sedikit dari perkiraan kebanyakan orang. Beberapa lusin pasangan tanya-jawab yang akurat dan mencakup panggilan paling umum sering kali lebih unggul daripada arsip besar yang belum disunting. Tambahkan lagi seiring panggilan nyata menunjukkan celahnya.
Bisakah agen memakai konten di dalam PDF?
Biasanya bisa, jika PDF memiliki teks yang dapat dipilih. PDF hasil pindaian yang hanya berisi gambar perlu dikenali teksnya terlebih dahulu. Periksa apa yang diekstrak sistem, karena tabel dan kolom bisa keluar dalam keadaan berantakan.
Seberapa sering saya harus memperbarui basis pengetahuan?
Setiap kali fakta berubah, dan pada tanggal tinjauan rutin untuk hal lainnya. Beri setiap sumber penanggung jawab agar pembaruan tidak dibiarkan bergantung pada kebetulan.