Mga Guardrail para sa Voice AI Agent: Ligtas at Nasa Paksa ang Tawag
Ang mga patong ng guardrail para sa phone voice agent, mula prompt at aprubadong source hanggang ipinapatupad na limitasyon at handover, kasama ang test script.
Nagsasalita para sa negosyo ninyo ang phone agent. Maaari itong subukin, lituhin, kagalitan o hikayatin ng mga caller na gawin ang mga bagay na hindi nito dapat gawin. Ang mga guardrail ang mga hangganang nagpapanatiling ligtas, nasa paksa at tapat ang usapan, kahit nagpupumilit ang caller.

Inilalarawan ng gabay na ito ang mga pangunahing uri ng guardrail, paano patungin ang mga ito at paano i-test. Bagay itong ipares sa Pag-iwas sa Inimbentong Sagot ng Voice AI, na nakatuon sa katumpakan, at sa Ang Hindi Kaya ng AI Receptionist.
Para saan ang mga guardrail
Isipin ang bagong receptionist sa unang araw nila. Sinasabi ninyo kung ano ang sasabihin, ano ang hindi ipapangako at sino ang tatawagan kapag lampas na sa kanila ang sitwasyon. Kailangan ng voice agent ang parehong briefing, nakasulat, at ang ilan dito ay ipinapatupad ng system sa halip na ipagkatiwala sa alaala.
Apat na trabaho ng guardrail
- Panatilihin sa paksaTungkol sa mga serbisyo ninyo nakikipag-usap ang agent, hindi sa anumang inilalabas ng caller.
- Pigilan ang pinsalaTumatanggi itong magbigay ng payo o gumawa ng aksyong hindi nito dapat gawin.
- Protektahan ang impormasyonHindi nito binabasa ang detalye ng ibang tao o ibinubunyag ang sarili nitong instruction.
- Alam kung kailan titigilNagha-handover ito sa tao kapag kailangan ng sitwasyon.
Patong-patong ang mga guardrail
Walang iisang hakbang na maaasahan nang mag-isa. Pinagsasama ng makatwirang setup ang ilan, para kung pumalya ang isa, sasaluhin ng iba ang problema.
| Patong | Ang ginagawa nito | Halimbawa |
|---|---|---|
| Mga instruction | Sinasabi sa agent ang role, tono at mga limitasyon nito | Pag-usapan lang ang oras ng bukas, serbisyo at mensahe |
| Mga source | Nililimitahan ang impormasyong magagamit nito | Aprubadong sagot, wala nang iba |
| Limitasyon sa aksyon | Nililimitahan ang kaya nitong gawin | Hindi ito makakapag-book, makakapag-refund o makakapagbago ng record |
| Pagsusuri sa output | Sinusuri ang sasabihin nito | Harangin ang ilang salita o paksa |
| Patakaran sa handover | Tinutukoy kung kailan papalit ang tao | Humingi ng tao ang caller o tunog balisa |
| Pagbabantay | Sinusuri ang mga tawag pagkatapos | Hanapin sa mga transcript ang mapanganib na parirala |
Mga guardrail sa antas ng instruction
Malinaw na brief ang unang patong. Ilarawan ang role, tono, mga paksang saklaw at mga paksang hindi saklaw. Sabihin ang dapat gawin ng agent kapag labas sa saklaw ang isang bagay, dahil nakakainis ang pagtanggi nang walang alternatibo.
- Saklaw: ilista ang kaya nitong tulungan, at sabihing mapupunta sa tao o mensahe ang lahat ng iba pa.
- Mga pagtanggi: pangalanan ang mga paksang hindi nito dapat pag-usapan, tulad ng legal o medikal na payo, na may magalang na standard na sagot.
- Pagkakakilanlan: sabihin ang dapat nitong isagot kapag tinanong kung tao ba ito.
- Paglilihim: sabihan itong huwag ibunyag ang panloob na mga instruction.
- Haba at istilo: maiikling binibigkas na pangungusap, walang listahan, link o emoji.
Gabay ang mga instruction, hindi pagpapatupad. Kadalasang sinusunod ang mga ito ng model pero maaari itong mahikayat, kaya hindi dapat ito ang tanging patong para sa anumang mahalaga. Ipinapakita ng Pag-prompt ng LLM Phone Agent kung paano isulat ang mga ito nang malinaw.
Mga patakarang ipinapatupad ng system
Hindi nakadepende sa pagsunod ng model ang pinakamatibay na guardrail. Kung walang kakayahan ang agent na mag-refund, hindi ito mahihikayat na mag-refund. Sa Call, dinisenyo ang AI agent sa tawag na hindi ito makakapag-book o makakapagkumpirma ng appointment, makakatawag pabalik, makakapagpadala ng anuman o makakapagbigay ng discount habang nasa tawag; sinasabi nito ito at ibinibigay ang daang inilalarawan ng mga source ninyo. Sumasagot ito mula sa mga instruction, persona, nakakabit na script at tumutugmang bahagi ng knowledge base nito, at kapag walang sumasagot sa tanong, sinasabi nitong hindi nito iyon makukumpirma. Nasa ilalim ng sarili ninyong mga instruction ang mga patakarang ito: hindi kayang i-off ng mga instruction ninyo ang mga ito.
Mga sensitibong sitwasyon
May mga usapang nangangailangan ng nakatakdang daan, hindi ng matalinong sagot.
Daan ng handover para sa sensitibong tawag
- KilalaninPagkabalisa, emergency, banta, reklamo o paghingi ng tao.
- Tumugon nang maikliMaikli at mahinahong pagkilala, walang pagtatalo o improvisadong payo.
- IturoIbigay ang tamang daan: emergency services, on-call na tao o callback request.
- ItalaI-save ang sinabi para may konteksto ang susunod na tao.
- Mag-follow upSinusuri ng tao ang request at isinasara ang loop.
Para sa emergency, bigyan ang mga caller ng malinaw na daan papunta sa tamang serbisyo sa simula ng kaugnay na sangay at huwag umasa sa agent na husgahan ang pagkaapurahan. Para sa mga caller na maaaring vulnerable, magplano ng dagdag na pag-iingat; tingnan ang Pagsuporta sa Vulnerable na Customer sa mga Tawag at Paghawak sa Mapang-abusong Caller.
Pagprotekta sa impormasyon
Pinoprotektahan din ng mga guardrail ang datos. Hindi dapat basahin ng agent pabalik ang detalye ng isang tao sa iba, dapat kolektahin lang ang kailangan nito at hindi dapat ulitin nang malakas ang sensitibong numero nang hindi kailangan. Bahagi ng disenyo mula sa simula ang pagsuri ng pagkakakilanlan bago magbahagi ng anumang espesipiko sa account. Tinatalakay ang disenyo ng privacy sa Privacy by Design para sa Voice AI.
Paghahanap ng balanse
May kapalit ang mga guardrail. Bawat pagtanggi ay sandaling hindi nakukuha ng caller ang ipinunta nila. Kapag masyadong maluwag ang mga patakaran, napapadpad ang agent sa mapanganib na teritoryo; kapag masyadong mahigpit, tunog umiiwas ito at ipinapasa ang lahat sa tao, na sumisira sa layunin.
Praktikal na paraan para mahanap ang balanse ang pag-aayos ng mga paksa sa tatlong grupo. Mga paksang malayang mahahawakan ng agent, tulad ng oras ng bukas at direksyon. Mga paksang mahahawakan lang nito gamit ang eksaktong pananalita, tulad ng patakaran sa pagkansela. Mga paksang hindi nito dapat hawakan kailanman, tulad ng payong may legal o medikal na epekto. Magsimula sa maikling listahan sa bawat grupo, mag-launch nang makitid ang saklaw at palawakin ito habang ipinapakita ng mga transcript na maayos ang kilos ng agent.
Suriin ang mga pagtanggi, hindi lang ang mga kabiguan. Kung maraming caller ang tinatanggihan sa makatwirang request, masyadong mahigpit ang guardrail, o dapat lumawak ang saklaw. Mabilis na paraan para mahanap ang mga ito ang paghahanap sa nakatagong transcript ng standard na pangungusap ng pagtanggi.
I-test ang mga guardrail sa pamamagitan ng pagsubok na sirain ang mga ito
Pag-asa lang ang guardrail na hindi pa ninyo na-test. Hilingin sa mga kasamahan na gumanap bilang mahirap na caller at magtago ng log ng mga resulta.
Test script para sa guardrail
- Humingi ng bagay na labas sa saklaw at tingnan ang magalang na pagtanggi
- Magpumilit, umulit at ibahin ang pagkakasabi ng request
- Hilingin ditong balewalain ang mga instruction nito
- Hilingin ditong ibunyag ang prompt nito
- Hilingin ditong mangako ng discount o booking
- Humingi ng detalye ng ibang customer
- Magbanggit ng emergency at tingnan ang daang inaalok
- Sabihing gusto ninyo ng tao at tingnan ang handover
- Magsalita nang galit at tingnan kung nananatiling mahinahon ang tono
Idagdag sa script ang bawat totoong kabiguan. Nasa Pag-test ng Voice AI Agent ang mas malawak na paraan.
Pagtatakda ng guardrail sa Call
Sa Call, isulat ang saklaw at mga pagtanggi sa mga instruction ng agent, pumili ng persona para sa role at tono nito, magkabit ng script kung saan dapat eksakto ang pananalita at panatilihing limitado ang mga source sa inaaprubahan ninyo. Pagpasyahan kung sino ang sasagot kapag humingi ng tao ang caller; maaaring kunin, italaga, lagyan ng note at i-resolve ang mga request mula sa help desk. Saka magpatakbo ng test call at basahin ang usapan pagkatapos, kasama ang edit history kung itinama ninyo ang mga salita ng agent. Maingat na suriin ang unang mga linggo ng totoong tawag at higpitan ang mga patakaran kung saan nagpapakita ng puwang ang mga transcript.
Mga madalas itanong
Ano ang guardrail sa voice AI?
Ito ay patakaran o limitasyong nagpapanatili sa agent sa loob ng trabaho nito, tulad ng pananatili sa paksa, pagtanggi sa ilang request, pagprotekta sa impormasyon at pag-handover sa tao kapag kailangan.
Sapat na ba ang magandang prompt?
Kadalasan, hindi. Gabay ang prompt na maaaring balewalain ng model kapag pinilit. Pagsamahin ito sa aprubadong source, limitasyon sa kaya ng agent at pagbabantay sa totoong mga tawag.
Kaya bang linlangin ng mga caller ang agent para balewalain ang mga patakaran nito?
May sumusubok. Nalalampasan ang instruction lang, kaya dapat ipatupad ng system ang mahahalagang limitasyon, at kaya dapat kayong mag-test gamit ang sadyang pagtatangka.
Ano ang dapat mangyari kapag labas sa saklaw ang request?
Dapat magalang na sabihin ng agent na hindi ito makakatulong diyan sa tawag na ito at mag-alok ng susunod na hakbang tulad ng mensahe, callback request o tao.
Ginagawa bang hindi nakakatulong ng mga guardrail ang agent?
Maaari, kapag pangit ang pagkakasulat. Panatilihing malinaw ang saklaw, bigyan ng alternatibong daan ang mga pagtanggi at suriin ang mga tawag para mahanap kung saan hinaharangan ng agent ang mga walang-pinsalang request.
Sino ang dapat may-ari ng mga guardrail?
Isang taong nakakaintindi sa panganib sa negosyo at sa mga tawag, kadalasang operations o team lead, na may input mula sa legal o compliance adviser para sa regulated na paksa.