Tehnologija glasovne umjetne inteligencije

Latencija glasovne umjetne inteligencije: što razgovor čini prirodnim

Zašto glasovni AI ponekad zastane, odakle dolaze kašnjenja, što pozivatelji doživljavaju kao prirodno i praktični koraci za brže odgovore telefonskog agenta.

Urednički tim usluge Call · Objavljeno · Čitanje: 5 min

U običnom razgovoru ljudi jedni drugima odgovaraju gotovo odmah. Stanka koja u e-pošti ne bi bila vrijedna spomena na telefonu djeluje dugo. Kad glasovni AI predugo čeka, pozivatelji se pitaju je li veza prekinuta, kažu „Halo?” i govore preko odgovora kad on napokon stigne. Latencija stoga nije tehnička zanimljivost nego ključan dio kvalitete.

Zvučni valovi na zaslonu pokraj osobe koja govori u mikrofon slušalica
Ilustrativna slika

Ovaj vodič objašnjava odakle dolazi kašnjenje, što pozivatelji doživljavaju i koje ga tehnike smanjuju ili čine manje primjetnim. Na kraju pokazujemo kako provjeriti brzinu u Callu. Za tehnologiju u pozadini pogledajte članak Kako funkcionira glasovni AI.

Što latencija znači u pozivu

Latencija je vrijeme između trenutka kad pozivatelj prestane govoriti i trenutka kad agent počne odgovarati. Pozivatelji je ne mjere u milisekundama; osjećaju je kao oklijevanje. Kratka, prirodna stanka u redu je, pa čak i umiruje. Dug razmak prekida ritam, a neujednačen ritam djeluje neprirodno čak i kad je prosjek prihvatljiv.

Važna su još dva kašnjenja. Jedno je vrijeme do prvog pozdrava kad se poziv uspostavi, a drugo vrijeme tijekom dohvaćanja podataka, primjerice provjere zapisa. Svako treba vlastiti pristup.

Odakle dolazi kašnjenje

Faze kroz koje prolazi izgovoreni odgovor

  1. Prepoznavanje kraja govoraSustav zaključuje da je pozivatelj prestao govoriti.
  2. Prepoznavanje govoraGovor se pretvara u tekst.
  3. RazmišljanjeJezični model oblikuje odgovor.
  4. Dohvaćanje podatakaNeobavezno: upit drugom sustavu radi činjenica.
  5. Sinteza govoraTekst se pretvara u glas.
  6. Telefonska linijaZvuk putuje do pozivatelja i reproducira se.

Svaka faza dodaje malo, a zajedno se zbrajaju. Korak prepoznavanja kraja govora lako je previdjeti: ako sustav čeka dugu tišinu prije nego što zaključi da je pozivatelj završio, svaki odgovor počinje kasno. Prekratka postavka stvara suprotan problem, pa agent prekida pozivatelje koji zastanu kako bi razmislili.

FazaO čemu ovisiUobičajena poluga
Prepoznavanje kraja govoraPrag tišine, pozadinska bukaPažljivo podesite prag
Prepoznavanje govoraKvaliteta zvuka, jezikČist zvuk, ispravna postavka jezika
RazmišljanjeDuljina odgovora, odabir modelaKratki odgovori, prikladan model
Dohvaćanje podatakaBrzina vanjskog sustavaDohvaćajte samo kad je potrebno
Sinteza govoraPrenosi li se zvuk u streaminguPočnite govoriti rano
Telefonska linijaUdaljenost u mrežiSmanjite broj prijelaza gdje je moguće

Što pozivatelji doživljavaju kao prirodno

Ljudi u različitim trenucima podnose različita kašnjenja. Kratka stanka prije složenog odgovora djeluje prirodno jer bi i čovjek razmislio. Duga stanka nakon „da” djeluje kao kvar. Ciljajte na brze, ujednačene odgovore na jednostavna pitanja i dajte iskrene signale kad je potrebno više vremena.

Prekidanje

Prirodni razgovori uključuju preklapanje. Ako se agenta ne može prekinuti, pozivatelji se osjećaju kao da im se drži predavanje. Ako stane na svaki kašalj, razgovor zapinje. Pojedinosti potražite u člancima Barge-in i prekidanje i Izmjena govornika kod glasovnih agenata.

Kako smanjiti kašnjenje

Tehnike koje pomažu

  • Kratke prve rečenicePočnite s nekoliko riječi, a zatim nastavite. Pozivatelj ranije čuje odgovor.
  • StreamingPočnite govoriti čim je spreman prvi dio odgovora, umjesto da čekate cijeli.
  • Pripremljeni pozdraviUnaprijed pripremite uvod kako bi se reproducirao čim se poziv uspostavi.
  • Disciplina dohvaćanjaVanjske informacije dohvaćajte samo kad ih pitanje zahtijeva i neka dohvaćanje bude brzo.

Važan je i dizajn upute (prompta). Odgovor u obliku kratkog odlomka dulje se generira i izgovara nego jedna ili dvije rečenice. Uputite agenta da bude sažet i da postavi dodatno pitanje umjesto da nabraja sve što zna. Za zadatke nalik izborniku kratak IVR korak ispred AI-ja može trenutačno obaviti jednostavno usmjeravanje, a AI ostaviti za otvorena pitanja. Pogledajte članak IVR ili AI glasovni agent.

Razmišljanje u okvirima proračuna latencije

Koristan način razmišljanja o brzini jest promatrati stanku kao proračun iz kojeg troši svaka faza. Isto vrijeme ne možete potrošiti dvaput, pa ušteda u jednoj fazi može platiti funkciju u drugoj. Ako, primjerice, želite dohvaćanje zapisa o korisniku, možda ćete morati uštedjeti vrijeme negdje drugdje, kraćim odgovorima ili strožim pragom za prepoznavanje kraja govora.

To pomaže i pri usporedbi pružatelja usluga ili postavki. Promjena zbog koje glas zvuči bolje, ali dodaje primjetnu stanku, može biti loša razmjena za telefonsku liniju, gdje je tempo važniji od uglađenosti. Pozivatelji mnogo lakše oproste pomalo običan glas nego razgovor koji zapinje.

Zamišljeni primjer

Zamislite malu kliniku čiji agent odgovara na pitanja o radnom vremenu i prima zahtjeve za termine. Većina poziva ne treba dohvaćanje podataka, pa odgovori mogu biti brzi. Klinika želi dodati provjeru sljedećeg termina pozivatelja. Umjesto da dohvaćanje doda svakom pozivu, agent zapis dohvaća tek nakon što pozivatelj pita za svoj termin, a prije toga kaže „Provjerit ću to za vas”. Jednostavna pitanja ostaju brza, a sporiji korak iskreno najavljuje sam sebe.

Kako to ispravno mjeriti

Jedan probni poziv na dobroj vezi govori vam malo. Mjerite mnogo stvarnih poziva kroz nekoliko dana i u različito vrijeme te gledajte raspon, a ne samo prosjek. Pozivatelji pamte najsporije odgovore.

Jednostavan plan testiranja latencije

  • Deset poziva u različito doba dana
  • Kratka pitanja, duga pitanja i pitanja koja zahtijevaju dohvaćanje podataka
  • Pozivi s mobitela i s fiksne linije
  • Bučna i tiha okolina
  • Bilješke o najsporijim odgovorima i o tome koje je bilo pitanje
  • Ponavljanje nakon svake promjene kako biste provjerili je li pomogla

Vodite evidenciju postavki i rezultata kako biste znali što je uspjelo. Članak Kako testirati glasovnog AI agenta prije pokretanja šire obrađuje testiranje, a članak Metrike za ocjenu glasovnog AI-ja opisuje što pratiti.

Ograničenja koja treba prihvatiti

Neko se kašnjenje ne može ukloniti. Telefonske mreže, govorne usluge i jezični modeli trebaju vremena, a kvaliteta svakog od njih mijenja se tijekom dana. Budite oprezni s bilo kakvim obećanjem fiksnog vremena odgovora. Realan je cilj tempo koji djeluje kao promišljena osoba, s brzim odgovorima na jednostavna pitanja i iskrenim postupanjem sa sporijima.

Kako to provjeriti u Callu

U Callu vaš AI agent počinje govoriti čim je spreman prvi dio odgovora, a kod odlaznih poziva pozdrav se priprema dok telefon zvoni, pa ga osoba koja se javi čuje odmah. Odgovori su kratki i prirodni, bez poštapalica poput „Samo trenutak, molim”. Brzina ovisi o telefonskoj mreži te o AI i glasovnim uslugama, pa se vremena mjere u svakom pozivu, a ne obećavaju. Voditelji mogu otvoriti poziv u Povijesti poziva i vidjeti koliko je trajao svaki izgovoreni odgovor.

Pod Glas, Glas agenta postavke transkripcije uključuju prag tišine: snizite ga za bržu izmjenu govornika, a povisite ako agent prekida pozivatelje. Postavke razgovora omogućuju da dopustite ili zabranite prekidanje i odredite koliko dugo tišina traje prije nego što poziv završi. Da biste čuli rezultat, upotrijebite probni poziv u retku agenta, koji zvoni na vašem telefonu; svaki je test stvaran poziv koji se naplaćuje. Promjene provjerite s nekoliko poziva prije nego što ih primijenite na aktivnu liniju.

Često postavljana pitanja

Koje je dobro vrijeme odgovora za glasovnog agenta?

Ne postoji fiksan broj. Ciljajte na odgovore koji djeluju kao promišljena osoba: brzo kod jednostavnih pitanja i iskrena stanka kod težih. Mjerite stvarne pozive kako biste vidjeli gdje ste.

Zašto moj AI agent ponekad dugo zastane?

Česti su uzroci dohvaćanje podataka iz drugog sustava, dug odgovor, spora mreža ili prag tišine koji predugo čeka prije nego što zaključi da ste završili.

Mogu li poštapalice riješiti kašnjenje?

Kratke poštapalice mogu pomoći tijekom dohvaćanja podataka, ali treba ih koristiti umjereno. Pretjerana upotreba zvuči uvježbano i može pozivatelje učiniti nestrpljivijima.

Pomaže li kraći odgovor zaista?

Da. Kraći odgovor zahtijeva manje vremena za generiranje i izgovor te pozivatelju daje priliku da ranije odgovori.

Trebam li dopustiti pozivateljima da prekinu agenta?

Obično da. Prekidanje je prirodan dio razgovora. Testirajte postavku kako bi agent brzo stao kod stvarnog govora, ali ne i kod kašlja ili kratkog „aha”.

Koliko često trebam testirati latenciju?

Nakon svake promjene upute, glasa, znanja ili postavki te povremeno na stvarnim pozivima, jer se brzina mreže i usluga mijenja.

Testirajte brzinu odgovora svojeg AI agenta u Callu

U demo konzoli možete isprobati dolazne pozive u simulaciji.

Povezani vodiči