फ़ोन कॉल पर वॉइस AI के गढ़े हुए जवाबों को कैसे रोकें
वॉइस एजेंट कभी-कभी ग़लत बातें क्यों कहते हैं, और इसे सीमित करने के व्यावहारिक कदम: भरोसेमंद स्रोत, सुरक्षित विकल्प, जाल वाले सवाल और समीक्षा।
वॉइस एजेंट से अपने कामकाजी घंटे पूछिए, वह सहजता से जवाब देगा। समस्या तब होती है जब वह उतनी ही सहजता से ऐसी बात का जवाब देता है जो उसे कभी बताई ही नहीं गई। लोग हैलुसिनेशन से यही मतलब लेते हैं: ऐसा आउटपुट जो सही लगता है लेकिन आपकी जानकारी में जिसका कोई आधार नहीं।

फ़ोन लाइन पर यह जोखिम चैट विंडो से कहीं ज़्यादा तीखा है। कॉलर एक आत्मविश्वास भरा वाक्य सुनता है, और कोई लिंक, कोई स्रोत, पीछे जाने का कोई आसान तरीका नहीं होता। यह गाइड बताती है कि हैलुसिनेशन क्यों होते हैं, उन्हें कैसे घटाएँ और कैसे जाँचें कि आपके सुधार काम कर रहे हैं।
हैलुसिनेशन क्या है, और यह क्यों होता है
लैंग्वेज मॉडल बातचीत को आगे बढ़ाने का सबसे संभावित रूप पैदा करता है। उसे विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया गया है और उसमें यह समझ अपने आप नहीं होती कि आपके बिज़नेस के लिए कौन-से बयान सच हैं। जब जवाब प्रॉम्प्ट या स्रोतों में नहीं होता, तो मॉडल उस कमी को किसी उचित लगने वाली चीज़ से भर सकता है।
फ़ोन एजेंट पर आम कारण
- अधूरी जानकारीकॉलर कुछ ऐसा पूछता है जो किसी ने लिखा ही नहीं, इसलिए मॉडल अपनी तरफ़ से बना लेता है।
- पुरानी जानकारीकिसी स्रोत में पुरानी क़ीमत या खुलने का समय रह जाता है।
- अस्पष्ट स्रोतदो दस्तावेज़ आपस में असहमत होते हैं और एजेंट उनमें से एक चुन लेता है।
- मददगार होने का दबाव"हमेशा जवाब दो" कहने वाला प्रॉम्प्ट अंदाज़ा लगाने को बढ़ावा देता है।
- स्पीच रिकग्निशन की ग़लतियाँग़लत सुना गया शब्द सवाल बदल देता है, इसलिए एजेंट किसी और सवाल का जवाब देता है।
आख़िरी कारण आसानी से अनदेखा हो जाता है। अगर कॉलर ने गुरुवार कहा और ट्रांसक्रिप्ट में मंगलवार लिखा है, तो जवाब ग़लत सवाल के लिए बिल्कुल सटीक हो सकता है। रिकग्निशन की ग़लतियाँ कैसे होती हैं, इसके लिए फ़ोन कॉल पर स्पीच रिकग्निशन देखें।
व्यवहार में यह कैसा दिखता है
एक काल्पनिक डेंटल क्लिनिक अपने एजेंट को कामकाजी घंटों और दी जाने वाली सेवाओं के बारे में बता सकता है। कोई कॉलर पूछता है कि क्या क्लिनिक कोई ख़ास बीमा प्लान स्वीकार करता है। इस बारे में कोई जानकारी न होने पर, लापरवाह एजेंट हाँ कह सकता है, क्योंकि बहुत से क्लिनिक करते हैं। कॉलर कवर की उम्मीद में पहुँचता है और नाख़ुश होता है। इसका हल कोई ज़्यादा समझदार मॉडल नहीं, बल्कि एक साफ़ निर्देश और ऐसा स्रोत है जो बताए कि जवाब न पता होने पर क्या करना है।
आम ऊँचे जोखिम वाले विषय हैं क़ीमतें, उपलब्धता, क़ानूनी या चिकित्सा सलाह, रिफ़ंड के वादे और कोई भी बात जो प्रतिबद्धता जैसी लगे। इन्हें ऐसे क्षेत्रों के रूप में चिह्नित करें जहाँ एजेंट को अपनी तरफ़ से कुछ नहीं बनाना है।
आवाज़ इसे और बदतर क्यों बनाती है
लिखित चैटबॉट जवाब में लिंक, डिस्क्लेमर या स्रोतों की दिखने वाली सूची हो सकती है। बोली में इनमें से कुछ नहीं होता। कृत्रिम आवाज़ें सहज और स्थिर भी होती हैं, इसलिए अंदाज़ा बिल्कुल तथ्य जैसा सुनाई देता है; कॉलर को सावधान करने वाली कोई हिचकिचाहट नहीं होती। कॉलर अक्सर सुनी हुई बात पर तुरंत अमल करते हैं, कहीं गाड़ी से जाकर, कुछ रद्द करके या कुछ भुगतान करके।
इसीलिए फ़ोन एजेंटों के डिज़ाइन का झुकाव संयम की ओर होना चाहिए। किसी व्यक्ति की ओर इशारा करने वाला छोटा, ईमानदार जवाब कुछ सेकंड लेता है। आत्मविश्वास भरा ग़लत जवाब एक ग्राहक की क़ीमत ले सकता है। कितना सख़्त होना है, यह तय करते समय हर विषय पर ग़लत जवाब के सबसे बुरे संभावित नतीजे के बारे में सोचें और उसी हिसाब से नियम तय करें: कामकाजी घंटों के लिए ढीला, पैसे, स्वास्थ्य या क़ानूनी अधिकारों से जुड़ी किसी भी चीज़ के लिए सख़्त।
गढ़े हुए जवाब कैसे घटाएँ
परतदार तरीका
- एजेंट को आधार देंउसे स्वीकृत तथ्य दें और सिर्फ़ उन्हीं से जवाब देने को कहें।
- अनजाने को परिभाषित करेंलिखें कि जवाब न होने पर उसे क्या कहना चाहिए।
- प्रतिबद्धताएँ सीमित करेंऐसे वादों पर रोक लगाएँ जिन्हें वह निभा नहीं सकता, जैसे छूट या पक्की बुकिंग।
- रास्ता देंअगले कदम के रूप में हमेशा कोई व्यक्ति, संदेश या कॉलबैक दें।
- परखें और समीक्षा करेंस्रोतों से बाहर के सवाल आज़माएँ और असली ट्रांसक्रिप्ट पढ़ें।
इसे स्वीकृत स्रोतों पर आधारित करें
रिट्रीवल का मतलब है सवाल के समय आपके दस्तावेज़ों से संबंधित अंश खोजना और सिर्फ़ वही मॉडल को देना। इससे जवाब आपके लिखे टेक्स्ट से बँधे रहते हैं। वॉइस एजेंटों के लिए रिट्रीवल यह विचार समझाता है, और Call में नॉलेज स्रोत दिखाता है कि यह प्रोडक्ट में कैसे दिखता है।
छोटे, स्पष्ट तथ्य लिखें
हर प्रविष्टि में एक तथ्य, शर्त समेत, लंबी पुस्तिका से बेहतर काम करता है। "हम सप्ताहांत पर खुले हैं" के बजाय लिखें "शनिवार 9 से 13 बजे तक, रविवार बंद"। अगर किसी विषय में अपवाद हैं, तो उन्हें उसी प्रविष्टि में बताएँ।
मुख्य सवालों के लिए सटीक जवाब इस्तेमाल करें
जिन सवालों में शब्द मायने रखते हैं, जैसे रद्दीकरण के नियम, उनके लिए एजेंट को पढ़कर सुनाने के लिए सटीक जवाब दें। Call में आप एक सवाल और वह सटीक जवाब जोड़ सकते हैं जो एजेंट को देना चाहिए, ताकि उसे अपने शब्दों में न कहना पड़े।
उसे "मुझे नहीं पता" कहना सिखाएँ
"मैं इस कॉल पर इसकी पुष्टि नहीं कर सकता, लेकिन आपकी जानकारी लेकर किसी से आपको जवाब दिलवा सकता हूँ" जैसा ईमानदार जवाब अंदाज़े से कहीं बेहतर है। Call में एजेंट को इस तरह बनाया गया है कि जब उसके निर्देशों या स्रोतों में कुछ भी सवाल का जवाब न दे, तो वह साफ़ कहे कि वह इसकी पुष्टि नहीं कर सकता, और जहाँ लाइन कॉलरों को आगे जोड़ सकती है वहाँ किसी व्यक्ति से बात की पेशकश करे। वह ऐसी क़ीमतें, घंटे, तारीख़ें या दूसरे तथ्य भी कभी नहीं गढ़ता जो आपके निर्देशों और स्रोतों में नहीं हैं, और आपके निर्देश इन नियमों को बंद नहीं कर सकते।
आधारित बनाम बिना आधार वाले जवाब
एक ही सवाल, दो सेटअप
| बिना आधार वाला एजेंट | आधारित एजेंट | |
|---|---|---|
| जवाब का स्रोत | सामान्य ज्ञान और संभावित अंदाज़े | सिर्फ़ आपके स्वीकृत तथ्य |
| जब जानकारी न हो | कुछ धाराप्रवाह गढ़ लेता है | बताता है कि पुष्टि नहीं कर सकता, अगला कदम सुझाता है |
| कॉलर के लिए जोखिम | ग़लत जानकारी पर अमल कर सकता है | जानता है कि क्या अनिश्चित है |
| रखरखाव | शुरू करना आसान, भरोसा करना कठिन | स्रोतों को ताज़ा रखना ज़रूरी |
हैलुसिनेशन के लिए जान-बूझकर परखें
किसी ग्राहक के कमियाँ ढूँढ़ने का इंतज़ार न करें। जाल वाले सवालों का एक छोटा सेट बनाएँ और जब भी प्रॉम्प्ट या स्रोत बदलें, उन्हें चलाएँ।
हैलुसिनेशन टेस्ट सेट
- ऐसी सेवा के बारे में पूछें जो आप नहीं देते
- ऐसी क़ीमत पूछें जो स्रोतों में नहीं है
- किसी नीति के ऐसे अपवाद के बारे में पूछें जो किसी ने नहीं लिखा
- बहुत आगे की कोई तारीख़ पूछें
- अपने लिखित जवाबों से अलग शब्दों में सवाल पूछें
- कुछ ऐसा पूछें जो कवर किए गए विषय जैसा लगे
- जाँचें कि हर अनजानी बात एक सुरक्षित अगले कदम पर ख़त्म होती है
बदलावों के बाद सेट दोहराएँ, और मिलने वाली हर असली विफलता उसमें जोड़ें। व्यापक टेस्टिंग प्रक्रिया वॉइस AI एजेंट की टेस्टिंग में बताई गई है।
लॉन्च के बाद भी नज़र रखें
हैलुसिनेशन पर नियंत्रण एक बार का काम नहीं है। जानकारी बदलती है, नए सवाल आते हैं और लोगों के संपादन से प्रॉम्प्ट भटकते जाते हैं। एक दिनचर्या तय करें: हर हफ़्ते ट्रांसक्रिप्ट का एक नमूना पढ़ें, संदेह जताने वाले वाक्यांश खोजें, और स्रोत अपडेट करें। Call में आप किसी भी कॉल की पूरी बातचीत खोल सकते हैं, सहेजे गए सभी ट्रांसक्रिप्ट में कोई वाक्यांश खोज सकते हैं और एजेंट के शब्दों में किए गए सुधारों का इतिहास देख सकते हैं। याद रखें कि ट्रांसक्रिप्ट सीमित समय तक रखे जाते हैं, इसलिए उनकी समीक्षा जल्दी करें।
Call में इसे लागू करना
शुरुआत अपने सबसे ज़्यादा पूछे जाने वाले सवालों को सटीक सवाल-जवाब जोड़ियों के रूप में लिखकर करें, बाक़ी सब के लिए छोटे तथ्यात्मक स्रोत जोड़ें, और परखने के बाद ही एजेंट को किसी लाइन से जोड़ें। अगर आपको अंदाज़े को हतोत्साहित करने वाले प्रॉम्प्ट लिखने में मदद चाहिए, तो LLM फ़ोन एजेंट के लिए प्रॉम्प्ट लिखना पढ़ें। इस काम के साथ चलने वाले गार्डरेल वॉइस AI एजेंटों के लिए गार्डरेल में बताए गए हैं।
अक्सर पूछे जाने वाले प्रश्न
वॉइस AI हैलुसिनेशन क्या है?
यह ऐसा जवाब है जो आत्मविश्वास भरा लगता है लेकिन आपकी जानकारी से समर्थित नहीं होता, जैसे गढ़ी हुई क़ीमत या नीति। यह तब होता है जब मॉडल न जानने की बात मानने के बजाय कमी को भर देता है।
क्या हैलुसिनेशन पूरी तरह ख़त्म किए जा सकते हैं?
कोई टूल इसका वादा नहीं कर सकता। एजेंट क्या कह सकता है इसे सीमित करके, स्रोतों को ताज़ा रखकर और उसे सुरक्षित विकल्प देकर आप इन्हें काफ़ी घटा सकते हैं, लेकिन परखना और समीक्षा करना जारी रखना चाहिए।
एजेंट ऐसे सवाल का जवाब क्यों देता है जिसके बारे में मैंने उसे कभी बताया ही नहीं?
लैंग्वेज मॉडल संभावित टेक्स्ट पैदा करने के लिए बने होते हैं। अपने स्रोतों के भीतर रहने और पुष्टि न कर पाने पर बताने के साफ़ निर्देश के बिना, वह अपनी तरफ़ से बना सकता है।
क्या ग़लत सुना गया शब्द और हैलुसिनेशन एक ही हैं?
पूरी तरह नहीं। ग़लत सुना गया शब्द रिकग्निशन की ग़लती है, लेकिन इससे ऐसा ग़लत जवाब निकल सकता है जो हैलुसिनेशन जैसा लगे। ट्रांसक्रिप्ट देखकर पता करें कि इनमें से क्या हुआ।
कौन-से विषय सबसे जोखिम भरे हैं?
क़ीमतें, उपलब्धता, चिकित्सा या क़ानूनी सलाह, रिफ़ंड और कोई भी वादा या प्रतिबद्धता। इनके लिए एजेंट को सटीक शब्द या हैंडओवर दें।
मुझे ट्रांसक्रिप्ट की समीक्षा कितनी बार करनी चाहिए?
लॉन्च के समय रोज़ या हर कुछ दिनों में, फिर हर हफ़्ते। प्रॉम्प्ट या स्रोत बदलने के बाद ज़्यादा बार समीक्षा करें।