Sesli yapay zekâ teknolojisi

Telefon Görüşmelerinde Sesli Yapay Zekânın Uydurma Yanıtlarını Önlemek

Sesli asistanlar neden bazen doğru olmayan şeyler söyler ve bunu sınırlayan pratik adımlar: dayanaklı kaynaklar, güvenli geri dönüşler, tuzak sorular ve inceleme.

Call editör ekibi · Yayınlanma · 5 dk okuma

Bir sesli asistana çalışma saatlerinizi sorun, akıcı bir şekilde yanıtlar. Sorun, kendisine hiç söylenmemiş bir şey hakkında da aynı akıcılıkla yanıt verdiğinde ortaya çıkar. İnsanların halüsinasyon derken kastettiği budur: kulağa doğru gelen ama bilgilerinizde hiçbir dayanağı olmayan bir çıktı.

Masasında bir telefon görüşmesini dikkatle dinleyen bir kişi
Örnek görsel

Bir telefon hattında risk, bir sohbet penceresindekinden daha keskindir. Arayan kendinden emin tek bir cümle duyar; bağlantı, kaynak veya geri dönmenin kolay bir yolu yoktur. Bu rehber halüsinasyonların neden oluştuğunu, nasıl azaltılacağını ve düzeltmelerinizin işe yarayıp yaramadığını nasıl kontrol edeceğinizi açıklıyor.

Halüsinasyon nedir ve neden olur

Bir dil modeli, bir konuşmanın en akla yatkın devamını üretir. Çok büyük miktarda metinle eğitilmiştir ve hangi ifadelerin işletmeniz için doğru olduğuna dair yerleşik bir duyusu yoktur. Yanıt komutta veya kaynaklarda yoksa model boşluğu makul görünen bir şeyle doldurabilir.

Bir telefon asistanında tipik nedenler

  • Eksik bilgiArayan kimsenin yazmadığı bir şey sorar, model de doğaçlama yapar.
  • Güncelliğini yitirmiş bilgiEski bir fiyat veya çalışma saati bir kaynakta kalmıştır.
  • Belirsiz kaynaklarİki belge birbiriyle çelişir ve asistan birini seçer.
  • Yardımcı olma baskısı"Her zaman yanıt ver" diyen bir komut tahmin yürütmeyi teşvik eder.
  • Konuşma tanıma hatalarıYanlış duyulan bir kelime soruyu değiştirir; asistan da başka bir soruyu yanıtlar.

Son nedeni gözden kaçırmak kolaydır. Arayan perşembe dediği hâlde transkriptte salı yazıyorsa yanıt, yanlış soru için tamamen doğru olabilir. Tanıma hatalarının nasıl ortaya çıktığı için Telefon Görüşmelerinde Konuşma Tanıma yazısına bakın.

Pratikte neye benzer

Varsayımsal bir diş kliniği, asistanına çalışma saatlerini ve sunduğu hizmetleri anlatmış olabilir. Bir arayan kliniğin belirli bir sigorta planını kabul edip etmediğini soruyor. Bu konuda hiçbir bilgi olmadığında dikkatsiz bir asistan, pek çok klinik kabul ettiği için evet diyebilir. Arayan güvence bekleyerek gelir ve hayal kırıklığına uğrar. Çözüm daha akıllı bir model değil, net bir talimat ve yanıt bilinmediğinde ne yapılacağını söyleyen bir kaynaktır.

Yaygın yüksek riskli konular fiyatlar, müsaitlik, hukuki veya tıbbi tavsiye, iade sözleri ve taahhüt gibi görünen her şeydir. Bunları asistanın doğaçlama yapmaması gereken alanlar olarak işaretleyin.

Ses neden durumu kötüleştirir

Yazılı bir sohbet botu yanıtı bir bağlantı, bir uyarı notu veya görünür bir kaynak listesi içerebilir. Konuşma bunların hiçbirini taşımaz. Sentetik sesler ayrıca pürüzsüz ve dengelidir; bu yüzden bir tahmin tıpkı bir gerçek gibi duyulur, arayanı uyaracak bir tereddüt yoktur. Arayanlar çoğu zaman duyduklarına göre hemen harekete geçer: bir yere gider, bir şeyi iptal eder veya bir şey öder.

Telefon asistanları için tasarım eğiliminin ölçülülükten yana olması bu yüzdendir. Bir insana yönlendiren kısa ve dürüst bir yanıt birkaç saniyeye mal olur. Kendinden emin yanlış bir yanıt ise bir müşteriye mal olabilir. Ne kadar katı olacağınıza karar verirken her konuda yanlış bir yanıtın akla yatkın en kötü sonucunu düşünün ve kuralı buna göre belirleyin: çalışma saatleri için esnek; para, sağlık veya yasal haklarla ilgili her şey için katı.

Uydurma yanıtlar nasıl azaltılır

Katmanlı bir yaklaşım

  1. Asistanı kaynaklara dayandırınOna onaylanmış bilgiler verin ve yalnızca bunlardan yanıt vermesini söyleyin.
  2. Bilinmeyeni tanımlayınBir yanıtı olmadığında ne söylemesi gerektiğini yazın.
  3. Taahhütleri kısıtlayınİndirim veya onaylanmış randevu gibi tutamayacağı sözleri yasaklayın.
  4. Bir yol sununSonraki adım olarak her zaman bir insan, bir mesaj veya bir geri arama sağlayın.
  5. Test edin ve inceleyinKaynakların dışındaki soruları deneyin ve gerçek transkriptleri okuyun.

Onaylanmış kaynaklara dayandırın

Bilgi erişimi (retrieval), soru sorulduğu anda belgelerinizden ilgili bölümleri bulmak ve modele yalnızca bunları vermek demektir. Yanıtları sizin yazdığınız metne bağlı tutar. Sesli Asistanlar için Bilgi Erişimi yazısı bu fikri açıklıyor; Call'da Bilgi Kaynakları yazısı da bunun üründe nasıl yer aldığını gösteriyor.

Kısa ve net bilgiler yazın

Koşulu da içeren, girdi başına tek bir bilgi uzun bir broşürden daha iyi işler. "Hafta sonları açığız" yerine "Cumartesi 9-13 arası açık, pazar kapalı" yazın. Bir konunun istisnaları varsa bunları aynı girdide belirtin.

Önemli sorular için kesin yanıtlar kullanın

İptal kuralları gibi ifadenin önemli olduğu sorular için asistana okuyacağı kesin yanıtı verin. Call'da bir soru ve asistanın vermesi gereken kesin yanıtı ekleyebilirsiniz; böylece kendi cümleleriyle yeniden ifade etmesi gerekmez.

Ona "bilmiyorum" demeyi öğretin

"Bunu bu görüşmede onaylayamıyorum, ancak bilgilerinizi alıp birinin size dönmesini sağlayabilirim" şeklindeki dürüst bir yanıt, bir tahminden çok daha iyidir. Call'da asistan, talimatlarındaki veya kaynaklarındaki hiçbir şey soruyu yanıtlamadığında bir şeyi onaylayamayacağını açıkça söyleyecek ve hat arayanları bağlayabiliyorsa bir insanla görüşmeyi önerecek şekilde tasarlanmıştır. Ayrıca talimatlarınızın ve kaynaklarınızın belirtmediği fiyatları, saatleri, tarihleri veya diğer bilgileri asla uydurmaz ve talimatlarınız bu kuralları devre dışı bırakamaz.

Kaynağa dayalı ve dayanaksız yanıtlar

Aynı soru, iki kurulum

Dayanaksız asistanKaynağa dayalı asistan
Yanıtın kaynağıGenel bilgi ve akla yatkın tahminlerYalnızca onaylanmış bilgileriniz
Bilgi eksik olduğundaAkıcı bir şey uydururOnaylayamayacağını söyler, bir sonraki adımı önerir
Arayan için riskYanlış bilgilere göre hareket edebilirNeyin belirsiz olduğunu bilir
BakımBaşlaması kolay, güvenmesi zorKaynakların güncel tutulmasını gerektirir

Halüsinasyonları bilinçli olarak test edin

Eksikleri bir müşterinin bulmasını beklemeyin. Küçük bir tuzak soru seti oluşturun ve komutu veya kaynakları her değiştirdiğinizde çalıştırın.

Bir halüsinasyon test seti

  • Sunmadığınız bir hizmeti sorun
  • Kaynaklarda olmayan bir fiyatı sorun
  • Kimsenin yazmadığı bir politika istisnasını sorun
  • Çok ileri bir tarihi sorun
  • Yazılı yanıtlarınızdan farklı ifade edilmiş bir soru sorun
  • Kapsanan bir konuya benzeyen bir şey sorun
  • Her bilinmeyenin güvenli bir sonraki adımla bittiğini kontrol edin

Değişikliklerden sonra seti tekrarlayın ve bulduğunuz her gerçek hatayı ekleyin. Daha geniş test süreci Bir Sesli Yapay Zekâ Asistanını Test Etmek yazısında anlatılıyor.

Canlıya geçtikten sonra izlemeye devam edin

Halüsinasyon kontrolü tek seferlik bir iş değildir. Bilgiler değişir, yeni sorular ortaya çıkar ve insanlar düzenledikçe komutlar kayar. Bir rutin belirleyin: her hafta transkriptlerden bir örneklem okuyun, şüpheye işaret eden ifadeleri arayın ve kaynakları güncelleyin. Call'da herhangi bir çağrının tüm görüşmesini açabilir, saklanan tüm transkriptlerde bir ifadeyi arayabilir ve asistanın sözlerine yapılan düzeltmelerin geçmişini görebilirsiniz. Transkriptlerin sınırlı bir süre saklandığını unutmayın; bu yüzden hızla inceleyin.

Bunu Call'da uygulamak

En sık sorulan sorularınızı kesin soru-cevap çiftleri olarak yazarak başlayın, diğer her şey için kısa ve bilgiye dayalı kaynaklar ekleyin ve asistanı ancak test ettikten sonra bir hatta bağlayın. Tahmin yürütmeyi caydıran komutlar yazmak için yardım istiyorsanız LLM Tabanlı Telefon Asistanına Komut Yazmak yazısını okuyun. Bu çalışmayla birlikte yer alan korkuluklar Sesli Yapay Zekâ Asistanları için Korkuluklar yazısında ele alınıyor.

Sık sorulan sorular

Sesli yapay zekâ halüsinasyonu nedir?

Kendinden emin duyulan ama bilgilerinizle desteklenmeyen bir yanıttır; örneğin uydurulmuş bir fiyat veya politika. Model, bilmediğini kabul etmek yerine bir boşluğu doldurduğunda ortaya çıkar.

Halüsinasyonlar tamamen ortadan kaldırılabilir mi?

Hiçbir araç bunu vaat edemez. Asistanın söyleyebileceklerini sınırlayarak, kaynakları güncel tutarak ve ona güvenli bir geri dönüş yolu vererek bunları büyük ölçüde azaltabilirsiniz, ancak test etmeye ve incelemeye devam etmelisiniz.

Asistan neden hiç öğretmediğim bir soruyu yanıtlıyor?

Dil modelleri akla yatkın metin üretmek üzere tasarlanmıştır. Kaynaklarınızın içinde kalması ve bir şeyi onaylayamadığında bunu söylemesi yönünde net bir talimat olmadan doğaçlama yapabilir.

Yanlış duyulan bir kelime halüsinasyonla aynı şey mi?

Tam olarak değil. Yanlış duyulan bir kelime bir tanıma hatasıdır, ancak halüsinasyon gibi görünen yanlış bir yanıta yol açabilir. Hangisinin olduğunu görmek için transkripti kontrol edin.

Hangi konular en riskli?

Fiyatlar, müsaitlik, tıbbi veya hukuki tavsiye, iadeler ve her türlü söz veya taahhüt. Bunlar için asistana kesin ifadeler veya bir devir yolu verin.

Transkriptleri ne sıklıkla incelemeliyim?

Canlıya geçişte her gün veya birkaç günde bir, sonrasında haftalık. Komutu veya kaynakları değiştirdikten sonra daha sık inceleyin.

Call'da yapay zekâ asistanınızı onaylanmış yanıtlara dayandırın

Demo konsolunda gelen çağrıları bir simülasyonla deneyebilirsiniz.

İlgili rehberler