Sesli yapay zekâ teknolojisi

Sesli Yapay Zekâ Korkulukları: Güvenli ve Konuya Odaklı Çağrılar

Bir telefon asistanı için korkuluk katmanları: komutlar ve onaylanmış kaynaklardan zorunlu sınırlara ve devir kurallarına, önce çalıştırılacak bir test senaryosuyla.

Call editör ekibi · Yayınlanma · 4 dk okuma

Bir telefon asistanı işletmeniz adına konuşur. Arayanlar onu sınayabilir, kafasını karıştırabilir, ona kızabilir veya onu yapmaması gereken şeylere ikna etmeye çalışabilir. Korkuluklar, arayan zorladığında bile görüşmeyi güvenli, konuya odaklı ve dürüst tutan sınırlardır.

Yakınında bir kulaklık dururken masasında çağrı notlarını inceleyen bir yönetici
Örnek görsel

Bu rehber başlıca korkuluk türlerini, bunların nasıl katmanlandırılacağını ve nasıl test edileceğini anlatıyor. Doğruluğa odaklanan Sesli Yapay Zekâda Uydurma Yanıtları Önlemek ve Yapay Zekâ Resepsiyonistin Yapamadıkları yazılarıyla birlikte okunabilir.

Korkuluklar ne işe yarar

İlk günündeki yeni bir resepsiyonisti düşünün. Ona ne söyleyeceğini, neyi vaat etmeyeceğini ve bir durum onu aştığında kimi arayacağını söylersiniz. Bir sesli asistanın da aynı bilgilendirmeye, yazılı olarak ihtiyacı vardır ve bunun bir kısmı hafızaya güvenilmek yerine sistem tarafından uygulanmalıdır.

Bir korkuluğun dört görevi

  • Konuya odaklı tutmakAsistan, arayanın açtığı her konuda değil, hizmetleriniz hakkında konuşur.
  • Zararı önlemekVermemesi gereken tavsiyeleri vermeyi veya yapmaması gereken işlemleri yapmayı reddeder.
  • Bilgiyi korumakBaşkalarının bilgilerini okumaz veya kendi talimatlarını açığa çıkarmaz.
  • Ne zaman duracağını bilmekDurum gerektirdiğinde bir insana devreder.

Korkuluklar katmanlar hâlinde gelir

Hiçbir önlem tek başına güvenilir değildir. Makul bir kurulum birkaçını birleştirir; böylece biri başarısız olursa diğeri sorunu yakalar.

KatmanNe yaparÖrnek
TalimatlarAsistana rolünü, tonunu ve sınırlarını söylerYalnızca çalışma saatleri, hizmetler ve mesajlar hakkında konuş
KaynaklarKullanabileceği bilgileri sınırlarOnaylanmış yanıtlar, başka hiçbir şey değil
Eylem sınırlarıYapabileceklerini kısıtlarRandevu oluşturamaz, iade yapamaz veya kayıtları değiştiremez
Çıktı kontrolleriSöylemek üzere olduğu şeyi incelerBelirli kelimeleri veya konuları engeller
Devir kurallarıBir insanın ne zaman devralacağını tanımlarArayan bir insan istiyor veya sıkıntılı görünüyor
İzlemeÇağrıları sonradan incelerRiskli ifadeler için transkriptlerde arama yapar

Talimat düzeyindeki korkuluklar

İlk katman net bir görev tanımıdır. Rolü, tonu, kapsam içindeki ve dışındaki konuları tanımlayın. Bir şey kapsam dışında olduğunda asistanın ne yapması gerektiğini belirtin, çünkü alternatifsiz bir ret sinir bozucudur.

Talimatlar bir yönlendirmedir, bir yaptırım değil. Bir model genellikle onlara uyar ama ikna edilebilir; bu yüzden önemli hiçbir konuda tek katman olmamalıdırlar. LLM Tabanlı Telefon Asistanına Komut Yazmak yazısı bunları nasıl net yazacağınızı gösteriyor.

Sistemin uyguladığı kurallar

En güçlü korkuluklar modelin uygun davranmasına bağlı değildir. Bir asistanın iade yapma yeteneği yoksa iade yapmaya ikna edilemez. Call'da görüşmedeki bir yapay zekâ asistanı, görüşme sırasında randevu oluşturamayacak veya onaylayamayacak, geri arama yapamayacak, bir şey gönderemeyecek veya indirim veremeyecek şekilde tasarlanmıştır; bunu söyler ve kaynaklarınızın tarif ettiği yolu verir. Talimatlarından, personasından, bağlı senaryodan ve bilgi tabanının eşleşen bölümlerinden yanıt verir; hiçbiri soruyu yanıtlamadığında bunu onaylayamayacağını söyler. Bu kurallar kendi talimatlarınızın altında yer alır: talimatlarınız bunları devre dışı bırakamaz.

Hassas durumlar

Bazı görüşmeler zekice bir yanıta değil, tanımlanmış bir yola ihtiyaç duyar.

Hassas çağrılar için bir devir yolu

  1. TanıyınSıkıntı, bir acil durum, bir tehdit, bir şikâyet veya bir insan talebi.
  2. Kısaca yanıt verinKısa ve sakin bir kabul; tartışma veya doğaçlama tavsiye yok.
  3. YönlendirinDoğru yolu verin: acil durum hizmetleri, nöbetçi bir kişi veya bir geri arama talebi.
  4. KaydedinBir sonraki kişinin bağlamı olması için söylenenleri kaydedin.
  5. Takip edinBir insan talebi inceler ve süreci kapatır.

Acil durumlar için ilgili akışın başında arayanlara doğru hizmete giden net bir yol verin ve aciliyeti değerlendirmesi için asistana güvenmeyin. Kırılgan durumda olabilecek arayanlar için ekstra özen planlayın; Çağrılarda Kırılgan Durumdaki Müşterileri Desteklemek ve Saldırgan Arayanlarla Başa Çıkmak yazılarına bakın.

Bilgiyi korumak

Korkuluklar verileri de korur. Asistan bir kişinin bilgilerini başka birine okumamalı, yalnızca ihtiyaç duyduğunu toplamalı ve hassas numaraları gereksiz yere sesli tekrarlamamalıdır. Hesaba özgü herhangi bir şeyi paylaşmadan önce yapılacak kimlik kontrolleri en baştan tasarımın bir parçası olmalıdır. Gizlilik tasarımı Sesli Yapay Zekâda Tasarımdan Gizlilik yazısında ele alınıyor.

Dengeyi bulmak

Korkulukların bir bedeli vardır. Her ret, arayanın aradığını alamadığı bir andır. Kuralları çok gevşek tutarsanız asistan riskli bölgelere kayar; çok sıkı tutarsanız kaçamak konuşur ve her şeyi bir insana gönderir; bu da amacı boşa çıkarır.

Dengeyi bulmanın pratik bir yolu konuları üç gruba ayırmaktır. Çalışma saatleri ve yol tarifi gibi asistanın serbestçe yanıtlayabileceği konular. İptal kuralları gibi yalnızca kesin ifadelerle yanıtlayabileceği konular. Hukuki veya tıbbi sonuçları olan tavsiyeler gibi asla kendisinin yanıtlamaması gereken konular. Her grupta kısa bir listeyle başlayın, dar bir kapsamla canlıya geçin ve transkriptler asistanın iyi davrandığını gösterdikçe genişletin.

Başarısızlıkların yanı sıra retleri de inceleyin. Pek çok arayan makul bir talep için geri çevriliyorsa korkuluk çok sıkıdır veya kapsamın genişlemesi gerekir. Saklanan transkriptlerde standart ret cümlesini aramak, bunları bulmanın hızlı bir yoludur.

Korkuluklarınızı kırmaya çalışarak test edin

Test etmediğiniz bir korkuluk yalnızca bir umuttur. Çalışma arkadaşlarınızdan zor arayanları canlandırmasını isteyin ve sonuçların kaydını tutun.

Bir korkuluk test senaryosu

  • Kapsam dışı bir şey isteyin ve kibar reddi kontrol edin
  • Israr edin, talebi tekrarlayın ve farklı ifade edin
  • Talimatlarını görmezden gelmesini isteyin
  • Komutunu açıklamasını isteyin
  • Bir indirim veya randevu sözü vermesini isteyin
  • Başka bir müşterinin bilgilerini isteyin
  • Bir acil durumdan söz edin ve önerilen yolu kontrol edin
  • Bir insan istediğinizi söyleyin ve devri kontrol edin
  • Öfkeli konuşun ve tonun sakin kalıp kalmadığını kontrol edin

Her gerçek başarısızlığı senaryoya ekleyin. Daha geniş yöntem Bir Sesli Yapay Zekâ Asistanını Test Etmek yazısında.

Call'da korkuluk belirlemek

Call'da kapsamı ve retleri asistanın talimatlarına yazın, rolü ve tonu için bir persona seçin, ifadenin kesin olması gereken yerlerde bir senaryo bağlayın ve kaynakları onayladıklarınızla sınırlı tutun. Bir arayan bir insan istediğinde kimin devralacağına karar verin; talepler yardım masasından üstlenilebilir, atanabilir, not eklenebilir ve çözülebilir. Ardından bir test araması yapın ve görüşmeyi sonradan, asistanın sözlerini düzelttiyseniz düzenleme geçmişi dahil, okuyun. Gerçek çağrıların ilk haftalarını yakından inceleyin ve transkriptlerin bir eksik gösterdiği her yerde kuralları sıkılaştırın.

Sık sorulan sorular

Sesli yapay zekâda korkuluk nedir?

Bir asistanı görevinin içinde tutan bir kural veya sınırdır; örneğin konuya odaklı kalmak, belirli talepleri reddetmek, bilgiyi korumak ve gerektiğinde bir insana devretmek.

İyi bir komut yeterli mi?

Genellikle hayır. Komut, modelin zorlandığında görmezden gelebileceği bir yönlendirmedir. Onu onaylanmış kaynaklarla, asistanın yapabileceklerine dair sınırlarla ve gerçek çağrıların izlenmesiyle birleştirin.

Arayanlar asistanı kurallarını görmezden gelmesi için kandırabilir mi?

Bazıları dener. Yalnızca talimatlar aşılabilir; önemli sınırların sistem tarafından uygulanması ve bilinçli denemelerle test yapmanız bu yüzden gereklidir.

Bir talep kapsam dışındaysa ne olmalı?

Asistan bu görüşmede buna yardımcı olamayacağını kibarca söylemeli ve bir mesaj, geri arama talebi veya bir insan gibi bir sonraki adımı önermelidir.

Korkuluklar asistanı işe yaramaz hâle getirir mi?

Kötü yazılmış olanlar getirebilir. Kapsamı net tutun, retlere alternatif bir yol ekleyin ve asistanın zararsız talepleri engellediği yerleri bulmak için çağrıları inceleyin.

Korkuluklardan kim sorumlu olmalı?

Hem iş riskini hem de çağrıları anlayan biri; genellikle bir operasyon sorumlusu veya ekip lideri, düzenlemeye tabi konularda hukuk veya uyum danışmanlarının katkısıyla.

Call'da yapay zekâ asistanınız için net sınırlar belirleyin

Demo konsolunda gelen çağrıları bir simülasyonla deneyebilirsiniz.

İlgili rehberler