EU AI एक्ट और वॉइस एजेंट: पारदर्शिता की बुनियादी बातें
कॉल उठाने या करने वाले वॉइस एजेंटों के लिए EU AI एक्ट के पारदर्शिता दायित्वों का क्या मतलब है, साथ में कॉलर को AI के बारे में बताने की चेकलिस्ट।
वॉइस एजेंट अब इतने अच्छे हो गए हैं कि कॉलर बिना यह महसूस किए बातचीत पूरी कर सकता है कि लाइन पर कोई व्यक्ति नहीं था। यूरोपीय क़ानून निर्माताओं ने इस पर ध्यान दिया। EU आर्टिफ़िशियल इंटेलिजेंस एक्ट (रेगुलेशन (EU) 2024/1689) में ऐसे पारदर्शिता नियम हैं जो सीधे उन सिस्टम पर लक्षित हैं जो लोगों से संवाद करते हैं, और फ़ोन एजेंट इसका आदर्श उदाहरण है।

यह गाइड बुनियादी बातें सरल भाषा में समझाती है: पारदर्शिता दायित्व क्या कहता है, यह किस पर लागू होता है, इनबाउंड और आउटबाउंड कॉल के लिए इसका क्या मतलब है, और इसे अपने कॉल फ़्लो में कैसे शामिल करें। यह ऑपरेशंस और प्रोडक्ट टीमों के लिए एक सिंहावलोकन है, क़ानूनी राय नहीं। कॉलर को AI के बारे में बताने की व्यापक तस्वीर के लिए देखें कॉलर को बताना कि वे AI से बात कर रहे हैं।
एक मिनट में एक्ट
AI एक्ट AI सिस्टम को उनके जोखिम के हिसाब से छाँटता है और हर स्तर के साथ दायित्व जोड़ता है। कुछ गिने-चुने तरीक़े प्रतिबंधित हैं। उच्च जोखिम वाले उपयोगों की एक परिभाषित सूची पर भारी दायित्व हैं। जो सिस्टम सीधे लोगों से संवाद करते हैं, या सिंथेटिक ऑडियो, इमेज या वीडियो बनाते हैं, उन पर हल्के पारदर्शिता दायित्व हैं। ज़्यादातर सामान्य व्यावसायिक उपयोग उच्च जोखिम वाली सूची से बाहर हैं।
ग्राहक सेवा का वॉइस एजेंट आमतौर पर उच्च जोखिम वाले स्तर के बजाय पारदर्शिता वाले स्तर में आता है। इसका मतलब यह नहीं कि वह अनियंत्रित है: दूसरे क़ानून फिर भी लागू होते हैं, जैसे डेटा सुरक्षा नियम और उपभोक्ता क़ानून। लेकिन इस तरह के सिस्टम के लिए AI एक्ट की अपनी आवश्यकता मुख्य रूप से ईमानदारी के बारे में है।
वॉइस एजेंट कहाँ फ़िट होता है
- प्रतिबंधित तरीक़ेहेरफेर करने वाले या शोषणकारी उपयोग पूरी तरह प्रतिबंधित हैं। सामान्य रिसेप्शनिस्ट या सपोर्ट एजेंट इनके लिए नहीं बनाया जाता, लेकिन आपके प्रॉम्प्ट और स्क्रिप्ट को कभी उस दिशा में नहीं भटकना चाहिए।
- उच्च जोखिम वाले सिस्टमउपयोगों की एक तय सूची, जैसे रोज़गार, क्रेडिट या आवश्यक सेवाओं से जुड़े कुछ फ़ैसले। जाँचें कि क्या आपका कॉल फ़्लो ऐसे फ़ैसले लेता है या उन्हें काफ़ी प्रभावित करता है।
- पारदर्शिता दायित्ववह स्तर जिसमें ज़्यादातर फ़ोन एजेंट आते हैं: लोगों को बताया जाना चाहिए कि वे एक AI सिस्टम से संवाद कर रहे हैं, और सिंथेटिक ऑडियो चिह्नित होना चाहिए।
- बाक़ी सबदूसरे क़ानून फिर भी लागू होते हैं, जिनमें डेटा सुरक्षा, रिकॉर्डिंग के नियम और उपभोक्ता संरक्षण शामिल हैं।
पारदर्शिता दायित्व क्या कहता है
सरल शब्दों में, एक्ट का पारदर्शिता अनुच्छेद कुछ अपवादों के साथ ये बातें माँगता है:
- लोगों को बताएँ कि वे AI से बात कर रहे हैं। सीधे लोगों से संवाद करने वाले AI सिस्टम के प्रदाताओं को उन्हें ऐसे डिज़ाइन करना होगा कि व्यक्ति को जानकारी मिले, जब तक परिस्थितियों से एक सामान्य रूप से जानकार व्यक्ति के लिए यह स्पष्ट न हो।
- सिंथेटिक ऑडियो चिह्नित करें। सिंथेटिक ऑडियो, इमेज, वीडियो या टेक्स्ट बनाने वाले सिस्टम के प्रदाताओं को, जहाँ तकनीकी रूप से संभव हो, यह सुनिश्चित करना होगा कि आउटपुट मशीन द्वारा पढ़े जा सकने वाले तरीक़े से चिह्नित हो और कृत्रिम रूप से बना हुआ पहचाना जा सके।
- डीपफ़ेक का खुलासा करें। जो लोग असली लोगों, जगहों या घटनाओं जैसी सामग्री बनाने या बदलने वाले सिस्टम तैनात करते हैं, उन्हें बताना होगा कि वह कृत्रिम है।
- इमोशन रिकग्निशन के बारे में बताएँ। इमोशन रिकग्निशन या बायोमेट्रिक वर्गीकरण सिस्टम तैनात करने वालों को उनके संपर्क में आने वाले लोगों को बताना होगा।
मूल समय-सारिणी के अनुसार पारदर्शिता दायित्व अगस्त 2026 से लागू होने वाले हैं। एक्ट के कुछ हिस्सों की समय-सारिणी पर EU स्तर पर चर्चा होती रही है, इसलिए इसे पढ़ते समय लागू तारीख़ों की पुष्टि करें।
क्या यह कभी स्पष्ट होता है?
एक्ट तब अपवाद देता है जब एक सामान्य रूप से जानकार व्यक्ति के लिए यह स्पष्ट हो कि वह AI से बात कर रहा है। फ़ोन पर इस पर निर्भर न रहें। स्वाभाविक आवाज़, इंसानों जैसा नाम और दोस्ताना लहजा इसे स्पष्ट होने से बहुत दूर कर देते हैं। अगर आप निश्चित नहीं हैं, तो बता दें।
प्रदाता या तैनात करने वाला: किसका क्या दायित्व
एक्ट प्रदाताओं (प्रोवाइडर), जो कोई AI सिस्टम विकसित करते हैं या करवाते हैं और उसे अपने नाम से बाज़ार में उतारते हैं, और तैनात करने वालों (डिप्लॉयर), जो अपने अधिकार के तहत किसी सिस्टम का उपयोग करते हैं, के बीच अंतर करता है। जो व्यवसाय किसी प्लेटफ़ॉर्म से वॉइस एजेंट कॉन्फ़िगर करके उसे अपनी फ़ोन लाइन पर लगाता है, वह आमतौर पर डिप्लॉयर है, जबकि प्लेटफ़ॉर्म विक्रेता प्रोवाइडर के ज़्यादा क़रीब है। कई दायित्व प्रोवाइडर पर हैं, लेकिन डिप्लॉयर को फिर भी सिस्टम का उपयोग उसके इच्छित तरीक़े से करना होता है, जहाँ ज़रूरी हो वहाँ लोगों को सूचित रखना होता है, और सुरक्षा उपाय हटाने नहीं होते।
प्रदाता और तैनात करने वाला, आमने-सामने
| प्रदाता (सिस्टम बनाता या बेचता है) | तैनात करने वाला (उसका उपयोग करता है) | |
|---|---|---|
| आम उदाहरण | वॉइस-एजेंट प्लेटफ़ॉर्म का विक्रेता | कोई क्लिनिक, रिटेलर या सर्विस डेस्क जो अपनी लाइन पर वॉइस एजेंट चलाता है |
| लोगों को प्रकटीकरण | सिस्टम ऐसा बनाता है कि वह लोगों को बता सके कि वे AI से बात कर रहे हैं | सुनिश्चित करता है कि लाइन सही जगह और सही शब्दों में कॉलर को वास्तव में बताए |
| सिंथेटिक ऑडियो चिह्नित करना | जहाँ तकनीकी रूप से संभव हो, चिह्नित करने की सुविधा बनाता है | उसे हटाता या बंद नहीं करता |
| रोज़मर्रा का नियंत्रण | दस्तावेज़ और डिज़ाइन | स्क्रिप्ट, एस्केलेशन, निगरानी और रिकॉर्ड रखना |
अगर आप निश्चित नहीं हैं कि आपकी भूमिका क्या है, तो मान लें कि आप पर कम से कम डिप्लॉयर के दायित्व हैं, और अपने विक्रेता से पूछें कि प्लेटफ़ॉर्म आपके लिए क्या करता है।
इनबाउंड और आउटबाउंड कॉल
इनबाउंड कॉल आसान मामला है। कॉलर ने ख़ुद आपको फ़ोन करना चुना, और एजेंट के बात संभालने से पहले आप एक छोटे कथन से शुरुआत कर सकते हैं। आउटबाउंड कॉल में ज़्यादा सावधानी चाहिए, क्योंकि व्यक्ति ने बातचीत नहीं चुनी। प्रकटीकरण पहले एक-दो वाक्यों में आना चाहिए, साथ में यह भी कि कौन और क्यों कॉल कर रहा है।
AI द्वारा संभाली गई कॉल की पारदर्शी शुरुआत
- व्यवसाय का नाम लें"नमस्ते, यह Harbour Physio की बुकिंग लाइन है।"
- बताएँ कि यह AI है"मैं एक स्वचालित वॉइस असिस्टेंट हूँ, कोई व्यक्ति नहीं।"
- बताएँ कि यह क्या कर सकता है"मैं आपका संदेश या अपॉइंटमेंट का अनुरोध ले सकता हूँ।"
- व्यक्ति का विकल्प दें"अगर आप किसी व्यक्ति से बात करना चाहें, तो बस कह दीजिए।"
- ज़रूरी हो तो रिकॉर्डिंग का ज़िक्र करें"गुणवत्ता के लिए यह कॉल रिकॉर्ड की जा सकती है।"
ये उदाहरण काल्पनिक हैं; इन्हें अपने व्यवसाय के हिसाब से ढालें। आउटबाउंड अभियानों के लिए स्वचालित कॉल और सहमति के अलग नियमों का भी पालन करें, जिनका सार स्वचालित कॉल: देश-दर-देश सिंहावलोकन में है।
सिंथेटिक और क्लोन की गई आवाज़ें
टेक्स्ट-टू-स्पीच आवाज़ें सिंथेटिक ऑडियो हैं, और क्लोन की गई आवाज़ किसी असली व्यक्ति की नक़ल करके इससे भी आगे जाती है। चिह्नित करने के दायित्व मुख्य रूप से प्रोवाइडर पर हैं, लेकिन डिप्लॉयर के रूप में आपको समझना चाहिए कि आपका प्लेटफ़ॉर्म क्या करता है, और किसी असली व्यक्ति की क्लोन आवाज़ उसकी स्पष्ट अनुमति के बिना कभी इस्तेमाल नहीं करनी चाहिए। अगर आपका एजेंट किसी जाने-पहचाने कर्मचारी की आवाज़ में बोलता है, तो कॉलर को बताएँ कि यह AI आवाज़ है, वह कर्मचारी नहीं।
- अगर कॉलर गुमराह हो सकते हैं, तो AI एजेंट को इंसानी पद या ऐसा व्यक्तिगत नाम न दें जिससे किसी व्यक्ति का आभास हो।
- अगर कोई कॉलर गंभीरता से पूछे कि क्या वह किसी व्यक्ति से बात कर रहा है, तो हर बार सच बताएँ।
- हर लाइन कौन-सी आवाज़ और शब्द इस्तेमाल करती है, इसका लिखित रिकॉर्ड रखें।
आवाज़ों के बारे में और जानने के लिए देखें व्यवसाय के लिए वॉइस क्लोनिंग: सहमति और सीमाएँ।
प्रकटीकरण से आगे: और क्या डिज़ाइन में शामिल करें
पारदर्शिता न्यूनतम स्तर है, अधिकतम नहीं। अच्छी तरह चलने वाले वॉइस एजेंट को ये भी चाहिए:
प्रकटीकरण के आसपास व्यावहारिक सुरक्षा उपाय
- किसी व्यक्ति तक रास्ताजो कॉलर इंसान से बात माँगें, उन्हें बिना जद्दोजहद के किसी तक पहुँचना चाहिए, या कॉलबैक या संदेश का विकल्प मिलना चाहिए।
- जो कहता है उसकी सीमाएँऐसी सीमाएँ जो एजेंट को जवाब गढ़ने या अपने दायरे से बाहर की सलाह देने से रोकें।
- डेटा की देखभालसिर्फ़ उतना इकट्ठा करें जितना कॉल के लिए ज़रूरी है, और कॉलर को बताएँ कि रिकॉर्डिंग और ट्रांसक्रिप्ट का उपयोग कैसे होता है।
- मानवीय निगरानीकोई ट्रांसक्रिप्ट की समीक्षा करता है, एस्केलेशन संभालता है और एजेंट को बंद कर सकता है।
डिज़ाइन वाले पहलू के लिए देखें वॉइस AI एजेंटों के लिए गार्डरेल और वॉइस AI के लिए प्राइवेसी बाय डिज़ाइन।
एक व्यावहारिक तैयारी चेकलिस्ट
AI वॉइस एजेंट के लाइव कॉल लेने से पहले
- तय करें कि इस सिस्टम के लिए आप प्रोवाइडर हैं, डिप्लॉयर हैं या दोनों
- प्रकटीकरण सीधे शब्दों में लिखें और उसे हर प्रकार की कॉल में सबसे पहले रखें
- सुनिश्चित करें कि कॉलर किसी व्यक्ति, कॉलबैक या संदेश तक पहुँच सके
- अपने विक्रेता से पुष्टि करें कि सिंथेटिक ऑडियो कैसे चिह्नित होता है
- जाँचें कि डेटा सुरक्षा और रिकॉर्डिंग की सूचनाएँ भी मौजूद हैं
- इस्तेमाल किए गए शब्दों और उनके बदलने की तारीख़ों का रिकॉर्ड रखें
- हर हफ़्ते असली कॉल के एक नमूने की समीक्षा करें और जिनमें AI छिपा रहा, उन्हें ठीक करें
- लॉन्च से पहले समय-सारिणी में बदलाव के लिए आधिकारिक स्रोत फिर से जाँचें
Call में यह कैसे करें
Call में ऑपरेटर व्यवस्थापक, टेलीफ़ोनी और AI के अंतर्गत आवश्यक प्रकटीकरण सूचीबद्ध कर सकता है: आप एक लेबल, वे शब्द जिन्हें कहना प्रकटीकरण माना जाएगा, और वे सेकंड देते हैं जिनके भीतर इसे कहा जाना ज़रूरी है। सिर्फ़ एजेंट का अपना बोलना गिना जाता है, कॉलर का इसके बारे में पूछना नहीं। फ़ोन लाइन पर आप यह भी चुन सकते हैं कि कॉलर रिकॉर्डिंग और मॉनिटरिंग की सूचना सुनें या नहीं, और AI कॉल पर वह सूचना अभिवादन से पहले आती है। कॉलर किसी व्यक्ति से बात माँग सकता है, और AI एजेंट कॉल सौंप सकते हैं; देखें Call में AI एजेंट से किसी व्यक्ति को कॉल सौंपना। ये सेटिंग्स किसी विशेष क़ानूनी दायित्व को पूरा करती हैं या नहीं, यह आपको और आपके सलाहकार को तय करना है।
अक्सर पूछे जाने वाले प्रश्न
अगर मेरा व्यवसाय EU के बाहर है तो क्या EU AI एक्ट मुझ पर लागू होता है?
हो सकता है। एक्ट EU के बाहर के प्रोवाइडर और डिप्लॉयर तक पहुँचता है जब उनके सिस्टम का आउटपुट EU में इस्तेमाल होता है, जैसे वहाँ मौजूद कॉलर द्वारा। अगर आपके कॉलर EU में हैं, तो सलाह लें।
क्या वॉइस एजेंट को हमेशा बताना चाहिए कि वह AI है?
पारदर्शिता नियम माँगता है कि लोगों को बताया जाए कि वे एक AI सिस्टम से संवाद कर रहे हैं, जब तक यह एक सामान्य रूप से जानकार व्यक्ति के लिए स्पष्ट न हो। फ़ोन लाइन पर यह शायद ही कभी स्पष्ट होता है, इसलिए सुरक्षित आदत हर कॉल की शुरुआत के पास यह कहना है।
पारदर्शिता नियम कब से लागू होते हैं?
मूल समय-सारिणी के अनुसार इन्हें अगस्त 2026 से लागू होना है, लेकिन एक्ट के कुछ हिस्सों की समय-सीमाओं पर चर्चा होती रही है। इसे पढ़ते समय लागू तारीख़ों के लिए यूरोपीय आयोग के पेज देखें।
क्या टेक्स्ट-टू-स्पीच अभिवादन एक AI सिस्टम है?
एक तय रिकॉर्ड किया गया या सिंथेटिक अभिवादन, जो संवाद नहीं करता, बातचीत करने वाले एजेंट से अलग है। सिंथेटिक ऑडियो के चिह्नित करने के दायित्व फिर भी प्रासंगिक हो सकते हैं, इसलिए अपने विक्रेता से पूछें कि वह उन्हें कैसे संभालता है।
क्या AI का खुलासा करने से कॉलर फ़ोन रख देंगे?
कुछ रख सकते हैं, लेकिन ईमानदार प्रकटीकरण भरोसा बनाता है, और जो कॉलर रुकते हैं वे आमतौर पर अपनी ज़रूरत ज़्यादा साफ़ बताते हैं। दोस्ताना शुरुआत और किसी व्यक्ति तक आसान रास्ता कॉल छोड़ने को घटाते हैं।
क्या वॉइस एजेंटों के लिए AI एक्ट ही एकमात्र क़ानून है?
नहीं। डेटा सुरक्षा, कॉल रिकॉर्डिंग, मार्केटिंग और सहमति के नियम, और क्षेत्र-विशेष नियम फिर भी लागू होते हैं। AI एक्ट उनकी जगह नहीं लेता, बल्कि उनमें जुड़ता है।