Sesli yapay zekâ teknolojisi

Sesli Asistanlarda RAG: Kendi İçeriğinizden Yanıt Vermek

RAG ile telefon yapay zekâsı belgelerinizden ve SSS'lerinizden nasıl yanıt verir? İçerik hazırlama, hataları sınırlama ve yanıtları test etme ipuçları.

Call editör ekibi · Yayınlanma · 5 dk okuma

Bir dil modeli dünya hakkında çok şey bilir, ama işletmeniz hakkında hiçbir şey bilmez. Çalışma saatlerinizi, iptal politikanızı ya da kombi onarımlarına bakan teknisyenin adını bilmez. Bu bilgiler olmadan arayanın sorusunu yanıtlamasını isterseniz tahmin yürütebilir. Kısaca RAG olarak bilinen geri getirme destekli üretim (retrieval-augmented generation) bunun standart çözümüdür: kendi içeriğinizin ilgili kısmını bulun, soruyla birlikte modele verin ve yanıtı bu malzemeye dayanarak vermesini isteyin.

Bir asistan için bilgi bankası hazırlamak üzere basılı belgeleri ve dizüstü bilgisayarı düzenleyen bir kişi
Örnek görsel

Bu rehber, RAG'in telefon görüşmelerinde nasıl çalıştığını, içeriğin buna nasıl hazırlanacağını, nerede ters gittiğini ve nasıl test edileceğini açıklıyor. Altyapının genel işleyişi için şu yazıya bakın: Sesli Yapay Zekâ Nasıl Çalışır: STT, LLM ve TTS.

Bir görüşmede RAG nasıl çalışır?

Arayan bir soru sorduğunda, RAG ile çalışan bir sesli asistan genellikle şunları yapar:

Geri getirme adımları

  1. DinlerKonuşma tanıma, arayanın sözlerini metne dönüştürür.
  2. ArarSistem, içeriğinizde soruyla ilgili bölümleri arar.
  3. SeçerEn alakalı birkaç bölümü tutar, gerisini eler.
  4. Yanıtı oluştururDil modeli, soruyu ve bu bölümleri kullanarak kısa bir yanıt yazar.
  5. KonuşurMetinden konuşmaya (TTS) yanıtı sesli okur.

Neden modele her şeyi vermiyoruz?

Tüm içeriğinizi talimatlara yapıştırmayı deneyebilirsiniz. Ancak modelin çalışma alanı sınırlıdır, uzun talimatlar yanıtları yavaşlatır ve büyük bir metin yığını, modelin asıl önemli olan tek satırı gözden kaçırmasını kolaylaştırır. Geri getirme, üzerinde çalışılan malzemeyi küçük ve alakalı tutar.

"Arama" ne anlama geliyor?

Arama anahtar kelimeye dayalı, anlama dayalı (kelimeler farklı olsa bile benzer anlamdaki bölümleri bulan) ya da ikisinin karışımı olabilir. Anlama dayalı arama, sorusunu beklenmedik biçimde soran arayanlarda işe yarar; örneğin içeriğinizde "hafta sonu çalışma saatleri" yazarken arayanın "Pazar günü gelebilir miyim?" diye sorması gibi. Hangi yöntem kullanılırsa kullanılsın, bölümler belgelerinizin küçük parçalarıdır; bu yüzden içeriği nasıl yazdığınız ve böldüğünüz, neyin bulunacağını doğrudan etkiler.

İçeriği seçmek ve hazırlamak

"Ne verirseniz onu alırsınız" ilkesi burada özellikle geçerlidir. Bir sesli asistan, arkasındaki malzeme kadar doğru olabilir.

Yaygın içerik kaynakları

  • SSS ve soru-cevap çiftleriBelirli sorulara net yanıtlar; sık gelen aramalar için en güvenilir kaynak.
  • Web sayfalarıHizmetler, çalışma saatleri ve politikalar hakkındaki mevcut sayfalar; tek tek okunur ya da tüm site taranır.
  • BelgelerFiyat listeleri, menüler veya prosedürler içeren PDF ve kelime işlemci dosyaları (metin seçilebiliyorsa).
  • Serbest metinBaşka bir yere uymayan kurallar için notlar; örneğin bir tatil gününün nasıl ele alınacağı.
  • Gerçek görüşmelerden düzeltmelerBir görüşmeyi dinledikten sonra bir kişinin düzelttiği yanıtlar.

Kulak için yazın

Okunmak için yazılmış içerik, sesli söylendiğinde çoğu zaman tuhaf durur. Tablolar, uzun listeler ve kısaltmalar sesli anlatımda işe yaramaz. Önemli yanıtları her cümlede tek bir bilgi olacak şekilde sade cümlelerle yeniden yazın ve sayıların ve saatlerin nasıl okunacağını açıkça belirtin. Her bölümü, çevresindeki sayfa olmadan da anlam ifade edecek şekilde kendi içinde bütün tutun.

Çelişkileri giderin

Bir sayfada saat beşte, diğerinde altıda kapandığınız yazıyorsa asistan bunlardan birini rastgele söyler. Herhangi bir şeyi içe aktarmadan önce eski sayfaları, taslakları ve yinelenen dosyaları bulun; güncelleyin ya da silin. En yenisinin geçerli olması için politikalara tarih ekleyin.

Kapsam dışında kalanları belirleyin

Asistana neleri yanıtlamaması gerektiğini söyleyin: hukuki, tıbbi veya finansal tavsiyeler, belirli bir kişinin hesabıyla ilgili her şey ya da yalnızca bir çalışanın ele aldığı konular. Doğru tepki, kibarca bir kişiye aktarmaktır. Ayrıntılar için: Sesli Yapay Zekâ Asistanları İçin Korkuluklar.

RAG nerede ters gider?

RAG halüsinasyonu azaltır ama ortadan kaldırmaz. Tipik hatalar şunlardır:

Hata türleri

Ne oluyorÇözüm
Alakalı hiçbir şey bulunamıyorAsistan genel bilgisinden doğaçlama yapıyor.Bilmediğini söylemesini ve bir kişiye aktarmayı önermesini isteyin; eksik içeriği ekleyin.
Yanlış bölüm bulunuyorBaşka bir hizmete ait, benzer görünen bir politika kullanılıyor.Bölümleri net başlıklarla yeniden yazın; benzer konuları ayırın.
Güncelliğini yitirmiş içerikAsistan geçen yılın çalışma saatlerini söylüyor.Her kaynağa bir sorumlu ve bir gözden geçirme tarihi atayın.
Aşırı uzun geri getirmeFazla metin yanıtı yavaşlatıyor ve içeriğini bulandırıyor.Daha kısa, odaklı bölümler kullanın.
Yanlış duyulan soruKonuşma tanıma hataları yanlış bir aramaya yol açıyor.Gürültülü ses ve farklı aksanlarla test edin; önemli ayrıntıları teyit ettirin.

Uydurma yanıtları önlemeye daha ayrıntılı bakmak için okuyun: Sesli Yapay Zekâda Uydurma Yanıtları Önlemek. Asistanın sabit metin yerine bir siparişin durumu gibi canlı bilgileri sorgulamasını sağlamak için bkz. Sesli Asistanın Bilgi Sorgulamasını Sağlamak.

Hız payı

Telefon görüşmeleri gecikmeye çok az tahammül eder. Arama gibi her ek adım süre ekler. Kaynakları düzenli ve küçük tutun, yanıtın ihtiyacından fazla bölüm getirmekten kaçının ve yanıt sürelerini dizüstü bilgisayarda değil gerçek görüşmelerde test edin. Sesli Yapay Zekâda Gecikme yazısı, gecikmelerin nasıl hissedildiğini ve nereden kaynaklandığını açıklıyor.

Güncel tutun

Çalışma saatleri, fiyatlar ve politikalar, kimsenin bilgi bankasını düzenlemeyi hatırlamadığı bir hızla değişir. Ortak bir takvime yinelenen bir hatırlatıcı koyun: her sezon, tatil veya fiyat değişikliğinden önce içerik sorumlusu kaynakları gözden geçirip yeniden dizinlesin. Bir değişiklikten sonra asistanı kendiniz arayın ve değişen konuyu sorun. Otuz saniyelik bir kontrol, bir gün boyunca verilecek yanlış yanıtları önler.

Yayına almadan önce ve sonra test edin

Üç gruptan oluşan bir soru listesi hazırlayın: içeriğin açıkça yanıtladığı sorular, kısmen yanıtladığı sorular ve hiç kapsamadığı sorular. Her biri için asistanın ne söylediğini kaydedin. Yanıtın doğru olduğunu, sesli söylenebilecek kadar kısa olduğunu ve üçüncü grupta bilmediğini kabul ettiğini kontrol edin. İçerik her değiştiğinde listeyi yeniden çalıştırın.

Bir test rutini

  • Her sık sorulan soruyu iki üç farklı biçimde sorun.
  • Aynı soruları parazitli bir hatta ya da belirgin bir aksanla sorun.
  • İçerikte bulunmayan bir şey sorun.
  • Eski bir fiyat ya da kapalı bir gün gibi tuzak içeren bir soru sorun.
  • Kulakla takip edilemeyecek kadar uzun yanıtlara dikkat edin.
  • İlk ay gerçek görüşme dökümlerini haftalık olarak inceleyin.

Kalıcı düzeltmeler

Bir çalışan yanlış bir yanıt bulduğunda dökümü düzeltmek yetmez; asistanın bir dahaki sefere doğru yanıt vermesi için düzeltme bilgi bankasına geri işlenmelidir. Bu değişikliği kimin yapabileceğine karar verin ve değişikliklerin geçmişini tutun.

Call'da nasıl yapılır?

Call'da bilgi bir yapay zekâ asistanına aittir ve Kaynaklar bölümünden eklenir:

Depolama alanı kuruluş genelinde paylaşılır ve kaynak başına sınırlar vardır; kaynakları yalnızca çalışma alanı yöneticileri ekleyebilir, değiştirebilir veya silebilir. Canlı görüşmeler henüz bilgi bankasını kullanmıyorsa bir uyarı bandı bunu gösterir. Görüşme geçmişinden asistanın verdiği bir yanıtı düzeltebilir ve isterseniz bir dahaki sefer için doğru yanıt olarak kaydedebilirsiniz. Başlamak için: Call'da Bilgi Kaynaklarını Kullanmak ve Destek ve Yapay Zekâ İçin Bilgi Bankası Oluşturmak.

Sık sorulan sorular

RAG, bir modeli kendi verilerimle eğitmekle aynı şey mi?

Hayır. Eğitim modelin kendisini değiştirir. RAG ise modeli olduğu gibi bırakır ve soru anında ona içeriğinizden ilgili bölümleri verir; bu da güncellemeyi ve kontrol etmeyi kolaylaştırır.

RAG, sesli asistanın bir şeyler uydurmasını engeller mi?

Sorunu azaltır ama ortadan kaldırmaz. Asistan yine de bir bölümü yanlış yorumlayabilir ya da içeriğinizin kapsamadığı bir soruyu yanıtlamaya çalışabilir. Net talimatlar, iyi içerik ve düzenli testler hataları düşük tutar.

Ne kadar içeriğe ihtiyacım var?

Çoğu kişinin tahmin ettiğinden daha azına. En sık gelen aramalarınızı kapsayan birkaç düzine doğru soru-cevap çifti, çoğu zaman düzenlenmemiş büyük bir arşivden daha iyi sonuç verir. Gerçek görüşmeler eksikleri gösterdikçe ekleme yapın.

Asistan PDF'lerdeki içeriği kullanabilir mi?

PDF'teki metin seçilebiliyorsa genellikle evet. Yalnızca görüntüden oluşan taranmış PDF'ler önce metin tanımadan geçirilmelidir. Tablolar ve sütunlar karışık çıkabileceği için sistemin neyi çıkardığını kontrol edin.

Bilgi bankasını ne sıklıkla güncellemeliyim?

Bilgiler değiştiğinde ve geri kalan her şey için belirli gözden geçirme tarihlerinde. Güncellemeler şansa kalmasın diye her kaynağa bir sorumlu atayın.

Call'da yapay zekâ asistanınıza bilgi kaynakları ekleyin ve yanıtlarını kontrol edin

Demo konsolunda gelen çağrıları bir simülasyonla deneyebilirsiniz.

İlgili rehberler