Teknolohiya ng voice AI

Voice AI Latency: Ano ang Nagpaparamdam na Natural ang Usapan

Bakit minsan humihinto ang voice AI, saan galing ang delay, ano ang natural sa pakiramdam ng caller, at praktikal na paraan para bumilis ang sagot ng phone agent.

Editorial team ng Call · Nailathala · 6 min na pagbabasa

Sa karaniwang usapan, halos agad-agad sumasagot ang mga tao sa isa't isa. Ang paghintong walang dating sa email ay parang ang tagal sa telepono. Kapag masyadong matagal maghintay ang voice AI, iniisip ng caller kung naputol ang linya, nagsasabi ng "hello?" at nasasabayan ang sagot kapag dumating na ito sa wakas. Kaya ang latency ay hindi lang technical na kuryosidad kundi pangunahing bahagi ng kalidad.

Mga sound wave sa screen sa tabi ng isang taong nagsasalita sa mikropono ng headset
Larawang pang-ilustrasyon

Ipinapaliwanag ng gabay na ito kung saan galing ang delay, ano ang nararamdaman ng mga caller, at ang mga teknik na nagpapababa nito o ginagawa itong hindi gaanong kapansin-pansin. Sa dulo, ipinapakita kung paano suriin ang bilis sa Call. Para sa teknolohiya sa likod nito, basahin ang Paano Gumagana ang Voice AI.

Ano ang ibig sabihin ng latency sa isang tawag

Ang latency ay ang oras mula sa sandaling tumigil magsalita ang caller hanggang sa sandaling magsimulang sumagot ang agent. Hindi ito sinusukat ng mga caller sa milliseconds; nararamdaman nila ito bilang pag-aatubili. Ayos lang, at nakakapanatag pa nga, ang maikli at natural na hinto. Sinisira ng mahabang puwang ang ritmo, at hindi natural ang pakiramdam sa hindi pantay na ritmo kahit katanggap-tanggap ang average.

Dalawa pang delay ang mahalaga. Ang isa ay ang oras bago ang unang pagbati kapag kumonekta ang tawag, at ang isa pa ay ang oras habang may lookup, gaya ng pagsuri sa isang record. Kailangan ng sariling paraan ng paghawak ang bawat isa.

Saan galing ang delay

Ang mga yugtong dinaraanan ng binibigkas na sagot

  1. Pagtukoy na tapos naNagpapasya ang sistema na tumigil nang magsalita ang caller.
  2. RecognitionGinagawang teksto ang pananalita.
  3. Pag-iisipBinubuo ng language model ang sagot.
  4. LookupOpsyonal: pagtawag sa ibang sistema para sa mga detalye.
  5. Speech synthesisGinagawang boses ang teksto.
  6. Phone lineBumibiyahe ang audio papunta sa caller at tumutugtog.

Bawat yugto ay nagdadagdag ng kaunti, at nagsasama-sama ang mga ito. Madaling makaligtaan ang pagtukoy na tapos na: kung naghihintay ang sistema ng mahabang katahimikan bago magpasyang tapos na ang caller, huli nang nagsisimula ang bawat sagot. Kabaligtaran naman ang problema kapag masyadong maikli: sinasabat ng agent ang mga caller na humihinto para mag-isip.

YugtoAno ang nakakaapektoKaraniwang paraan
Pagtukoy na tapos naSilence threshold, ingay sa paligidMaingat na i-tune ang threshold
RecognitionKalidad ng audio, wikaMalinis na audio, tamang language setting
Pag-iisipHaba ng sagot, pagpili ng modelMaiikling sagot, angkop na model
LookupBilis ng panlabas na sistemaMag-lookup lang kapag kailangan
Speech synthesisKung naka-stream ang audioMagsimulang magsalita nang maaga
Phone lineLayo sa networkBawasan ang hops hangga't maaari

Ano ang pakiramdam na natural sa mga caller

Iba-iba ang delay na kayang tiisin ng tao sa iba't ibang sandali. Natural ang pakiramdam sa maikling hinto bago ang masalimuot na sagot, dahil mag-iisip din ang tao. Parang sira naman ang mahabang hinto pagkatapos ng "oo". Layunin ang mabibilis at pare-parehong sagot sa simpleng tanong at magbigay ng tapat na senyales kapag kailangan ng mas mahabang oras.

Pagsabat

May pagsasabay ang mga natural na usapan. Kung hindi masasabat ang agent, pakiramdam ng caller ay pinagsasalitaan lang sila. Kung humihinto ito sa bawat ubo, nauutal ang usapan. Basahin ang Barge-In at Pagsabat at Turn-Taking sa mga Voice Agent para sa mga detalye.

Mga paraan para bawasan ang delay

Mga teknik na nakakatulong

  • Maiikling unang pangungusapMagsimula sa ilang salita, saka magpatuloy. Mas maagang nakakarinig ng sagot ang caller.
  • StreamingMagsimulang magsalita sa sandaling handa na ang unang bahagi ng sagot, sa halip na hintayin ang kabuuan.
  • Nakahandang pagbatiIhanda nang maaga ang pambungad para tumugtog agad pagkakonekta ng tawag.
  • Disiplina sa lookupKumuha lang ng panlabas na impormasyon kapag kailangan ng tanong, at panatilihing mabilis ang lookup.

Mahalaga rin ang disenyo ng prompt. Mas matagal buuin at bigkasin ang sagot na isang maikling talata kaysa sa isa o dalawang pangungusap. Utusan ang agent na maging maikli, at magtanong ng follow-up sa halip na ilista ang lahat ng alam nito. Para sa mga gawaing parang menu, maaaring agad hawakan ng maikling IVR step sa harap ng AI ang simpleng routing, at iiwan sa AI ang mga bukas na tanong. Basahin ang IVR kumpara sa AI Voice Agent.

Pag-iisip sa latency budget

Kapaki-pakinabang na paraan ng pag-iisip tungkol sa bilis ang ituring ang hinto bilang budget na ginagastusan ng bawat yugto. Hindi ninyo magagastos nang dalawang beses ang parehong oras, kaya ang natipid sa isang yugto ay maaaring ipambayad sa feature sa iba. Kung gusto ninyo ng lookup sa customer record, halimbawa, maaaring kailangan ninyong magtipid ng oras sa iba sa pamamagitan ng pagpapaikli ng sagot o paghigpit sa finish-detection threshold.

Nakakatulong din ito kapag naghahambing ng providers o settings. Ang pagbabagong nagpapaganda ng tunog ng boses pero nagdadagdag ng kapansin-pansing hinto ay maaaring hindi sulit para sa phone line, kung saan mas mahalaga ang timing kaysa sa kinis. Mas madaling patawarin ng caller ang medyo payak na boses kaysa sa nauutal na usapan.

Isang kunwaring halimbawa

Isipin ang isang maliit na clinic na ang agent ay sumasagot sa mga tanong tungkol sa oras ng pagbubukas at tumatanggap ng kahilingan para sa appointment. Karamihan sa mga tawag ay hindi nangangailangan ng lookup, kaya maaaring mabilis ang mga sagot. Gusto ng clinic na magdagdag ng pagsuri sa susunod na appointment ng caller. Sa halip na idagdag ang lookup sa bawat tawag, ginagawa nitong mag-lookup lang ang agent pagkatapos magtanong ang caller tungkol sa kanilang appointment, at sabihin muna ang "sandali, titingnan ko iyan para sa inyo". Nananatiling mabilis ang simpleng tanong, at tapat ang mas mabagal na hakbang tungkol sa sarili nito.

Pagsukat nang tama

Kaunti lang ang sinasabi ng iisang test call sa magandang koneksiyon. Sukatin ang maraming totoong tawag sa loob ng ilang araw at oras, at tingnan ang pagkalat, hindi lang ang average. Ang pinakamabagal na sagot ang naaalala ng mga caller.

Isang simpleng latency test plan

  • Sampung tawag sa iba't ibang oras ng araw
  • Maiikling tanong, mahahabang tanong at tanong na nangangailangan ng lookup
  • Mga tawag mula sa mobile phone at mula sa landline
  • Maingay at tahimik na paligid
  • Mga tala sa pinakamabagal na sagot at kung ano ang tanong
  • Pag-uulit pagkatapos ng bawat pagbabago, para malaman kung nakatulong

Magtago ng record ng settings at resulta, para alam ninyo kung ano ang gumana. Mas malawak na tinatalakay ng Paano Subukan ang Voice AI Agent Bago Ilunsad ang testing, at inilalarawan ng Voice AI Evaluation Metrics kung ano ang susubaybayan.

Mga limitasyong dapat tanggapin

May delay na hindi maaalis. Nangangailangan ng oras ang phone networks, speech services at language models, at nag-iiba ang kalidad ng bawat isa sa buong araw. Mag-ingat sa anumang pangako ng nakapirming response time. Ang makatotohanang layunin ay takbong parang isang maalalahaning tao, na mabilis sumagot sa simpleng tanong at tapat sa paghawak ng mas mabagal.

Pagsuri nito sa Call

Sa Call, nagsisimulang magsalita ang inyong AI agent sa sandaling handa na ang unang bahagi ng sagot nito, at inihahanda ang pagbati ng outbound calls habang nagri-ring ang telepono, kaya agad itong naririnig ng sumagot. Pinapanatiling maikli at natural ang mga sagot, nang walang filler gaya ng "sandali lang po". Nakadepende ang bilis sa phone network at sa AI at voice services, kaya sinusukat ang timing sa bawat tawag sa halip na ipangako. Maaaring buksan ng managers ang isang tawag sa Call history para makita kung gaano katagal ang bawat binigkas na turn.

Sa ilalim ng Voice, Agent voice, kasama sa Transcriber settings ang silence threshold: ibaba ito para sa mas mabilis na turn-taking at itaas kung sinasabat ng agent ang mga caller. Pinapayagan kayo ng Conversation settings na payagan o hindi ang pagsabat at itakda kung gaano katagal ang katahimikan bago matapos ang tawag. Para marinig ang resulta, gamitin ang test call sa row ng agent, na tatawag sa sarili ninyong telepono; totoong tawag na may bayad ang bawat test. Dapat suriin ang mga pagbabago sa ilang tawag bago ilapat sa live na linya.

Mga madalas itanong

Ano ang magandang response time para sa voice agent?

Walang nakapirming numero. Layunin ang mga sagot na parang galing sa maalalahaning tao: mabilis sa simpleng tanong at tapat na hinto para sa mas mahirap. Sukatin ang totoong tawag para makita kung nasaan kayo.

Bakit minsan matagal huminto ang aking AI agent?

Karaniwang sanhi ang lookup sa ibang sistema, mahabang sagot, mabagal na network, o silence threshold na masyadong matagal maghintay bago magpasyang tapos na kayo.

Kaya bang ayusin ng filler words ang delay?

Maaaring makatulong ang maiikling filler habang may lookup, pero dapat itong gamitin nang matipid. Tunog scripted kapag sobra at maaaring lalong mainip ang mga caller.

Talaga bang nakakatulong ang mas maikling sagot?

Oo. Mas kaunting oras ang kailangan para buuin at bigkasin ang mas maikling sagot, at nabibigyan nito ng pagkakataon ang caller na sumagot nang mas maaga.

Dapat ko bang payagang sumabat ang mga caller sa agent?

Kadalasan, oo. Natural ang pagsabat sa usapan. Subukan ang setting para mabilis huminto ang agent sa totoong pananalita pero hindi sa ubo o maikling "uh-huh".

Gaano kadalas ko dapat subukan ang latency?

Pagkatapos ng bawat pagbabago sa prompt, boses, knowledge o settings, at paminsan-minsan sa totoong tawag, dahil nag-iiba ang bilis ng network at mga serbisyo.

Subukan ang bilis ng sagot ng inyong AI agent sa Call

Sa demo console, masusubukan mo ang mga papasok na tawag sa isang simulation.

Mga kaugnay na gabay