Teknologi AI suara

Latensi Voice AI: Agar Percakapan Telepon Terasa Alami

Mengapa voice AI kadang berhenti sejenak, dari mana jeda berasal, apa yang terasa alami bagi penelepon, dan langkah praktis agar agen telepon merespons lebih cepat.

Tim redaksi Call · Dipublikasikan · Baca 5 menit

Dalam percakapan sehari-hari, orang saling menjawab hampir seketika. Jeda yang biasa saja dalam email terasa panjang di telepon. Ketika voice AI menunggu terlalu lama, penelepon bertanya-tanya apakah sambungannya terputus, berkata "halo?", lalu berbicara bersamaan dengan jawaban yang akhirnya datang. Karena itu, latensi bukan sekadar urusan teknis, melainkan bagian inti dari kualitas.

Gelombang suara di layar di samping seseorang yang berbicara ke mikrofon headset
Gambar ilustrasi

Panduan ini menjelaskan dari mana jeda berasal, bagaimana penelepon merasakannya, dan teknik untuk menguranginya atau membuatnya kurang terasa. Di bagian akhir, kami tunjukkan cara memeriksa kecepatan di Call. Untuk teknologi dasarnya, lihat Cara Kerja Voice AI.

Arti latensi dalam panggilan

Latensi adalah waktu antara saat penelepon berhenti berbicara dan saat agen mulai menjawab. Penelepon tidak mengukurnya dalam milidetik; mereka merasakannya sebagai keraguan. Jeda singkat yang wajar tidak masalah, bahkan menenangkan. Jeda panjang memutus ritme, dan ritme yang tidak teratur terasa tidak alami meskipun rata-ratanya masih bisa diterima.

Ada dua jeda lain yang juga penting. Yang pertama adalah waktu sebelum salam pembuka saat panggilan tersambung, dan yang kedua adalah waktu selama pencarian data, misalnya saat memeriksa sebuah catatan. Masing-masing perlu ditangani dengan caranya sendiri.

Dari mana jeda berasal

Tahapan yang dilalui sebuah jawaban lisan

  1. Deteksi akhir ucapanSistem memutuskan bahwa penelepon sudah selesai berbicara.
  2. Pengenalan suaraUcapan diubah menjadi teks.
  3. PemrosesanModel bahasa menyusun jawaban.
  4. Pencarian dataOpsional: memanggil sistem lain untuk mendapatkan fakta.
  5. Sintesis suaraTeks diubah menjadi suara.
  6. Saluran teleponAudio dikirim ke penelepon dan diputar.

Setiap tahap menambah sedikit waktu, dan jika digabungkan jumlahnya terasa. Tahap deteksi akhir ucapan mudah terlewatkan: jika sistem menunggu keheningan yang lama sebelum memutuskan penelepon sudah selesai, setiap jawaban akan terlambat dimulai. Jika diatur terlalu singkat, masalahnya sebaliknya: agen menyela penelepon yang berhenti sejenak untuk berpikir.

TahapYang memengaruhinyaPengungkit umum
Deteksi akhir ucapanAmbang keheningan, kebisingan latarAtur ambang dengan cermat
Pengenalan suaraKualitas audio, bahasaAudio yang bersih, pengaturan bahasa yang benar
PemrosesanPanjang jawaban, pilihan modelJawaban singkat, model yang sesuai
Pencarian dataKecepatan sistem eksternalCari data hanya bila perlu
Sintesis suaraApakah audio di-streamingMulai berbicara lebih awal
Saluran teleponJarak jaringanKurangi lompatan jaringan bila memungkinkan

Apa yang terasa alami bagi penelepon

Orang menoleransi jeda yang berbeda di momen yang berbeda. Jeda singkat sebelum jawaban yang rumit terasa wajar, karena manusia pun akan berpikir dulu. Jeda panjang setelah "ya" terasa seperti ada yang rusak. Usahakan jawaban yang cepat dan konsisten untuk pertanyaan sederhana, dan berikan sinyal yang jujur saat butuh waktu lebih lama.

Interupsi

Percakapan alami mengandung tumpang tindih. Jika agen tidak bisa disela, penelepon merasa diceramahi. Jika agen berhenti setiap kali ada suara batuk, percakapan jadi tersendat-sendat. Lihat Barge-In dan Interupsi serta Pergantian Giliran Bicara pada Voice Agent untuk detailnya.

Cara mengurangi jeda

Teknik yang membantu

  • Kalimat pertama yang pendekMulai dengan beberapa kata, lalu lanjutkan. Penelepon mendengar jawaban lebih cepat.
  • StreamingMulai berbicara begitu bagian pertama jawaban siap, alih-alih menunggu semuanya selesai.
  • Salam yang disiapkanSiapkan pembuka lebih awal agar langsung diputar saat panggilan tersambung.
  • Disiplin pencarian dataAmbil informasi dari luar hanya jika pertanyaannya membutuhkannya, dan jaga agar pencarian tetap cepat.

Desain prompt juga berpengaruh. Jawaban sepanjang satu paragraf butuh waktu lebih lama untuk dihasilkan dan diucapkan dibandingkan satu atau dua kalimat. Instruksikan agen untuk bicara singkat, dan untuk mengajukan pertanyaan lanjutan alih-alih menyebutkan semua yang diketahuinya. Untuk tugas yang mirip menu, langkah IVR singkat di depan AI dapat menangani routing sederhana secara instan, sehingga AI fokus pada pertanyaan terbuka. Lihat IVR vs Agen Suara AI.

Berpikir dengan anggaran latensi

Cara yang berguna untuk memikirkan kecepatan adalah memperlakukan jeda sebagai anggaran yang dipakai oleh setiap tahap. Waktu yang sama tidak bisa dipakai dua kali, sehingga penghematan di satu tahap dapat membiayai fitur di tahap lain. Misalnya, jika Anda ingin agen mencari data pelanggan, Anda mungkin perlu menghemat waktu di tempat lain dengan mempersingkat jawaban atau mengetatkan ambang deteksi akhir ucapan.

Cara ini juga membantu saat membandingkan penyedia atau pengaturan. Perubahan yang membuat suara terdengar lebih bagus tetapi menambah jeda yang terasa bisa jadi pertukaran yang buruk untuk saluran telepon, di mana waktu lebih penting daripada kehalusan. Penelepon jauh lebih mudah memaafkan suara yang sedikit polos daripada percakapan yang tersendat.

Contoh hipotetis

Bayangkan sebuah klinik kecil yang agennya menjawab pertanyaan tentang jam buka dan menerima permintaan janji temu. Sebagian besar panggilan tidak memerlukan pencarian data, sehingga jawaban bisa cepat. Klinik itu ingin menambahkan pengecekan janji temu berikutnya milik penelepon. Alih-alih menambahkan pencarian ke setiap panggilan, agen hanya mencari datanya setelah penelepon menanyakan janji temunya, dan lebih dulu berkata "saya periksa dulu, ya". Pertanyaan sederhana tetap cepat, dan langkah yang lebih lambat disampaikan dengan jujur.

Mengukurnya dengan benar

Satu panggilan uji dengan koneksi yang bagus tidak banyak memberi informasi. Ukur banyak panggilan sungguhan selama beberapa hari dan pada jam yang berbeda, lalu lihat sebarannya, bukan hanya rata-ratanya. Jawaban yang paling lambatlah yang diingat penelepon.

Rencana uji latensi sederhana

  • Sepuluh panggilan pada jam yang berbeda dalam sehari
  • Pertanyaan pendek, pertanyaan panjang, dan pertanyaan yang membutuhkan pencarian data
  • Panggilan dari ponsel dan dari telepon rumah
  • Latar yang bising dan yang tenang
  • Catatan tentang jawaban paling lambat dan apa pertanyaannya
  • Pengujian ulang setelah setiap perubahan, untuk memastikan perubahan itu membantu

Simpan catatan pengaturan dan hasilnya, agar Anda tahu apa yang berhasil. Cara Menguji Agen Voice AI Sebelum Diluncurkan membahas pengujian secara lebih luas, dan Metrik Evaluasi Voice AI menjelaskan apa yang perlu dilacak.

Batasan yang perlu diterima

Sebagian jeda tidak dapat dihilangkan. Jaringan telepon, layanan pengenalan suara, dan model bahasa semuanya membutuhkan waktu, dan kualitas masing-masing berubah sepanjang hari. Waspadai janji waktu respons yang pasti. Tujuan yang realistis adalah tempo yang terasa seperti orang yang berpikir matang, dengan jawaban cepat untuk pertanyaan sederhana dan penanganan yang jujur untuk pertanyaan yang lebih lambat.

Memeriksanya di Call

Di Call, agen AI Anda mulai berbicara begitu bagian pertama jawabannya siap, dan untuk panggilan keluar, salamnya disiapkan selagi telepon berdering, sehingga orang yang mengangkat langsung mendengarnya. Jawaban dibuat singkat dan alami, tanpa kata pengisi seperti "mohon tunggu sebentar". Kecepatan bergantung pada jaringan telepon serta layanan AI dan suara, sehingga waktunya diukur di setiap panggilan, bukan dijanjikan. Manajer dapat membuka panggilan di Riwayat panggilan untuk melihat berapa lama setiap giliran bicara berlangsung.

Di bawah Suara, Suara agen, pengaturan Transkripsi mencakup ambang keheningan: turunkan untuk pergantian giliran yang lebih cepat, dan naikkan jika agen memotong ucapan penelepon. Pengaturan Percakapan memungkinkan Anda mengizinkan atau melarang interupsi dan menentukan berapa lama keheningan berlangsung sebelum panggilan diakhiri. Untuk mendengarkan hasilnya, gunakan panggilan uji di baris agen, yang akan menelepon ponsel Anda sendiri; setiap uji adalah panggilan sungguhan yang dikenai biaya. Perubahan sebaiknya dicek dengan beberapa panggilan sebelum diterapkan ke saluran yang aktif.

Pertanyaan yang sering diajukan

Berapa waktu respons yang baik untuk voice agent?

Tidak ada angka pasti. Usahakan jawaban yang terasa seperti orang yang berpikir matang: cepat untuk pertanyaan sederhana dan jeda yang jujur untuk pertanyaan yang lebih sulit. Ukur panggilan sungguhan untuk melihat posisi Anda.

Mengapa agen AI saya kadang berhenti lama?

Penyebab umumnya adalah pencarian data di sistem lain, jawaban yang panjang, jaringan yang lambat, atau ambang keheningan yang menunggu terlalu lama sebelum memutuskan Anda sudah selesai berbicara.

Apakah kata pengisi bisa mengatasi jeda?

Kata pengisi singkat dapat membantu selama pencarian data, tetapi sebaiknya dipakai seperlunya. Jika berlebihan, terdengar seperti naskah dan bisa membuat penelepon makin tidak sabar.

Apakah jawaban yang lebih singkat benar-benar membantu?

Ya. Jawaban yang lebih singkat butuh waktu lebih sedikit untuk dihasilkan dan diucapkan, serta memberi penelepon kesempatan menanggapi lebih cepat.

Haruskah penelepon diizinkan menyela agen?

Biasanya ya. Interupsi adalah hal wajar dalam percakapan. Uji pengaturannya agar agen cepat berhenti untuk ucapan sungguhan, tetapi tidak untuk batuk atau gumaman singkat seperti "hmm".

Seberapa sering saya perlu menguji latensi?

Setelah setiap perubahan pada prompt, suara, pengetahuan, atau pengaturan, dan secara berkala pada panggilan sungguhan, karena kecepatan jaringan dan layanan bervariasi.

Uji kecepatan respons agen AI Anda di Call

Di konsol demo, Anda bisa mencoba panggilan masuk dalam simulasi.

Panduan terkait