केंद्र सरकार ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म ‘X’ (पूर्व में ट्विटर) के खिलाफ बेहद सख्त कदम उठाया है। ‘X’ के आर्टिफिशियल इंटेलिजेंस टूल Grok AI द्वारा महिलाओं की “आपत्तिजनक और अश्लील” तस्वीरें (Deepfakes) जेनरेट किए जाने के मामले में सरकार ने प्लेटफॉर्म को 72 घंटे का नोटिस जारी किया है। आईटी मंत्रालय ने स्पष्ट चेतावनी दी है कि यदि निर्धारित समय के भीतर संतोषजनक कार्रवाई नहीं की गई, तो प्लेटफॉर्म को भारत में गंभीर कानूनी परिणामों और आईटी नियमों के तहत मिलने वाली सुरक्षा (Safe Harbour) खोने का सामना करना पड़ सकता है।
क्या है पूरा मामला और सरकार ने क्यों लिया एक्शन?
यह विवाद तब शुरू हुआ जब सोशल मीडिया पर कई ऐसी रिपोर्ट और शिकायतें सामने आईं कि ‘X’ का अपना AI मॉडल ‘Grok’ बिना किसी प्रभावी फिल्टर के महिलाओं की न्यूडिटी और मॉर्फ्ड (छेड़छाड़ की गई) तस्वीरें बना रहा है। भारतीय आईटी मंत्रालय (MeitY) के संज्ञान में यह बात आई कि कई यूजर्स इस टूल का दुरुपयोग सार्वजनिक हस्तियों और आम महिलाओं की गरिमा को ठेस पहुंचाने के लिए कर रहे हैं।
सरकार ने अपने नोटिस में साफ कहा है कि Grok AI का यह व्यवहार भारतीय आईटी अधिनियम (IT Act) और नए डिजिटल नियमों का सीधा उल्लंघन है। मंत्रालय ने ‘X’ से पूछा है कि उनके प्लेटफॉर्म पर ऐसे “सेफगार्ड्स” क्यों नहीं हैं जो इस तरह के आपत्तिजनक कंटेंट को बनने से रोक सकें।
Grok AI और आपत्तिजनक कंटेंट का विवाद
एलन मस्क ने जब Grok AI को लॉन्च किया था, तब उन्होंने इसे “अनफ़िल्टर्ड” और “बागी” (Rebellious) एआई बताया था। मस्क का तर्क था कि अन्य एआई टूल्स (जैसे ChatGPT या Gemini) बहुत ज्यादा ‘पॉलिटिकली करेक्ट’ हैं। लेकिन यही “खुलापन” अब महिलाओं की सुरक्षा के लिए खतरा बन गया है।
मुख्य समस्याएं जो सामने आईं:
• फिल्टर की कमी: अन्य एआई टूल्स यौन सामग्री या हिंसा से संबंधित इमेज जेनरेट करने पर रोक लगाते हैं, लेकिन Grok में ऐसे प्रॉम्प्ट्स का आसानी से इस्तेमाल किया जा रहा है।
• डीपफेक का बढ़ता खतरा: Grok का इमेज जनरेशन टूल इतना सटीक है कि यह असली और नकली तस्वीर के बीच का फर्क मिटा रहा है, जिसका शिकार भारतीय सेलिब्रिटीज और आम महिलाएं हो रही हैं।
• प्राइवेसी का उल्लंघन: किसी की अनुमति के बिना उसकी तस्वीर का अश्लील चित्रण करना निजता के अधिकार का गंभीर हनन है।
आईटी मंत्रालय का 72 घंटे का ‘अल्टीमेटम’
आईटी मंत्रालय ने ‘X’ को भेजे गए नोटिस में तीन मुख्य बिंदुओं पर जवाब मांगा है:
• एल्गोरिदम में बदलाव: ‘X’ को यह बताना होगा कि वह अपने AI मॉडल में कौन से तकनीकी बदलाव कर रहा है ताकि भविष्य में ऐसी तस्वीरें न बन सकें।
• कंटेंट रिमूवल: अब तक जेनरेट की गई ऐसी सभी आपत्तिजनक तस्वीरों को प्लेटफॉर्म से तुरंत हटाने के लिए क्या कदम उठाए गए हैं?
• नोडल अधिकारी की जवाबदेही: भारत में नियुक्त ‘X’ के शिकायत अधिकारी को इस लापरवाही के लिए जवाबदेह ठहराया गया है।
यदि 72 घंटों के भीतर ‘X’ कोई ठोस योजना पेश नहीं करता है, तो सरकार आईटी एक्ट की धारा 79 के तहत मिलने वाली सुरक्षा हटा सकती है। इसका मतलब यह होगा कि ‘X’ पर किसी भी यूजर द्वारा पोस्ट किए गए कंटेंट के लिए मस्क की कंपनी को सीधे तौर पर जिम्मेदार माना जाएगा और उन पर आपराधिक मुकदमे चलाए जा सकेंगे।
भारत में डीपफेक और एआई के लिए बढ़ती चुनौतियां
भारत दुनिया का सबसे बड़ा डिजिटल बाजार है और यहाँ डीपफेक (Deepfake) का मुद्दा पिछले एक साल से चर्चा में है। रश्मिका मंदाना, आलिया भट्ट और कई अन्य अभिनेत्रियों के डीपफेक वीडियो वायरल होने के बाद प्रधानमंत्री नरेंद्र मोदी ने भी एआई के गलत इस्तेमाल पर चिंता जताई थी।
सरकारी दिशा-निर्देश और नियम:
भारत सरकार पहले ही एडवाइजरी जारी कर चुकी है कि सोशल मीडिया कंपनियां “मध्यस्थ” (Intermediaries) के तौर पर अपनी जिम्मेदारी निभाएं। नियमों के मुताबिक:
• किसी भी अश्लील सामग्री को शिकायत मिलने के 24 घंटे के भीतर हटाना अनिवार्य है।
• प्लेटफॉर्म्स को ऐसी तकनीक का उपयोग करना चाहिए जो ‘हानिकारक’ एआई कंटेंट को पहचान सके।
एलन मस्क और भारत सरकार के बीच पुराना ‘तनाव’
यह पहली बार नहीं है जब ‘X’ और भारत सरकार आमने-सामने हैं। इससे पहले किसान आंदोलन के दौरान कुछ खातों को ब्लॉक करने और नए आईटी नियमों के अनुपालन को लेकर भी दोनों के बीच लंबी कानूनी जंग चल चुकी है। हालांकि, हाल के महीनों में एलन मस्क ने भारत में टेस्ला और स्टारलिंक को लाने की इच्छा जताई है, लेकिन Grok AI का यह ताजा विवाद उनके व्यापारिक संबंधों में फिर से खटास डाल सकता है।
महिलाओं की सुरक्षा और डिजिटल सुरक्षा की मांग
महिला अधिकार कार्यकर्ताओं और साइबर सुरक्षा विशेषज्ञों ने सरकार के इस कदम का स्वागत किया है। विशेषज्ञों का कहना है कि एआई का विकास “सुरक्षा मानकों” (Safety Rails) के बिना नहीं होना चाहिए। महिलाओं की तस्वीरों का दुरुपयोग न केवल मानसिक प्रताड़ना है, बल्कि यह उन्हें डिजिटल स्पेस से बाहर करने की एक साजिश भी हो सकती है।
वर्तमान स्थिति को देखते हुए यह कहना जल्दबाजी होगी कि भारत में ‘X’ को ब्लॉक कर दिया जाएगा। सरकार का प्राथमिक उद्देश्य प्लेटफॉर्म को अनुशासित करना और सुरक्षा मानकों को लागू करवाना है। हालांकि, यदि एलन मस्क की कंपनी इस बार भी ढुलमुल रवैया अपनाती है, तो भारी जुर्माने और कानूनी कार्रवाई की पूरी संभावना है। Grok AI का भविष्य भारत में इस बात पर निर्भर करेगा कि वह अपनी “बागी” छवि को छोड़कर कितना “सुरक्षित” बन पाता है।
आपकी इस पर क्या राय है? क्या AI टूल्स को पूरी तरह से अनफ़िल्टर्ड होना चाहिए, या महिलाओं की सुरक्षा के लिए उन पर सख्त सरकारी नियंत्रण जरूरी है? अपनी प्रतिक्रिया कमेंट में साझा करें।