ai deepfake - Apni Vani

वायरल वीडियो का असली सच: AI का खतरनाक खेल

पिछले कुछ दिनों से सोशल मीडिया प्लेटफॉर्म्स पर एक वीडियो शेयर किया जा रहा था, जिसमें दावा किया जा रहा था कि यह अलीना अमीर का निजी वीडियो है। करीब 4 मिनट 40 सेकंड के इस वीडियो को लेकर इंटरनेट पर काफी बहस छिड़ी हुई थी। अलीना ने अब खुद सामने आकर इस पर से पर्दा उठाया है। उन्होंने सबूत पेश करते हुए बताया कि यह वीडियो पूरी तरह से AI (Artificial Intelligence) के जरिए बनाया गया एक ‘डीपफेक’ वीडियो है। उन्होंने अपनी असली फोटो और फेक वीडियो को साथ रखकर दिखाया कि कैसे तकनीक का गलत इस्तेमाल कर उनका चेहरा किसी और के शरीर पर लगाया गया है।

“चुप नहीं रहूंगी”: मरियम नवाज और साइबर सेल से अपील

एक हफ्ते की खामोशी के बाद अलीना ने इंस्टाग्राम पर अपना पक्ष रखा। उन्होंने सीधे तौर पर पंजाब (पाकिस्तान) की मुख्यमंत्री मरियम नवाज को टैग करते हुए गुहार लगाई कि ऐसे अपराधियों के खिलाफ सख्त से सख्त कदम उठाए जाएं जो महिलाओं की छवि खराब करने के लिए डीपफेक तकनीक का इस्तेमाल कर रहे हैं। अलीना ने पंजाब साइबर क्राइम विंग के बड़े अधिकारी सोहेल जफर चाथा से भी इस मामले में दखल देने की मांग की है। उन्होंने इसे सिर्फ एक वीडियो नहीं, बल्कि महिलाओं के सम्मान पर हमला बताया है।

दोषी को पकड़ने वाले को मिलेगा नकद इनाम

अलीना अमीर ने इस लड़ाई को अब व्यक्तिगत स्तर पर ले जाने का फैसला किया है। उन्होंने वीडियो में ऐलान किया कि जो भी व्यक्ति उस असली अपराधी या वीडियो बनाने वाले की पहचान बताएगा, उसे वे अपनी तरफ से नकद इनाम देंगी। अलीना का कहना है कि सजा मिलना इसलिए जरूरी है ताकि भविष्य में किसी और मासूम लड़की को इस तरह की मानसिक प्रताड़ना और बदनामी का सामना न करना पड़े। उन्होंने अन्य महिलाओं से भी अपील की कि अगर वे सच बोल रही हैं, तो उन्हें डरने की जरूरत नहीं है और उन्हें भी अपनी आवाज उठानी चाहिए।

इंटरनेट यूजर्स को चेतावनी: शेयर करने से पहले सोचें

सोशल मीडिया पर बढ़ती इस गंदगी के बीच अलीना ने अपने फैंस और आम जनता से एक भावुक अपील की है। उन्होंने कहा कि लोग बिना किसी जांच-पड़ताल के लिंक शेयर करने लगते हैं और मजे लेते हैं, लेकिन वे यह नहीं समझते कि इससे किसी की जिंदगी बर्बाद हो सकती है। उन्होंने स्पष्ट किया कि पाकिस्तान में मिनाहिल मलिक और फातिमा जाटोई जैसी अन्य सेलिब्रिटीज भी इसी तरह की डिजिटल साजिश का शिकार हो चुकी हैं। यह मामला अब पूरी तरह कानूनी रूप ले चुका है और FIA (Federal Investigation Agency) की साइबर क्राइम विंग इस पर नजर बनाए हुए है।

अलीना अमीर का यह केस हमें याद दिलाता है कि आज के दौर में इंटरनेट पर दिख रही हर चीज सच नहीं होती। डीपफेक जैसी तकनीक किसी के भी चरित्र पर दाग लगा सकती है। अब देखना यह होगा कि मुख्यमंत्री मरियम नवाज और पाकिस्तानी जांच एजेंसियां इस ‘डिजिटल विलेन’ तक कब तक पहुंच पाती हैं।

भारत सरकार का “IndiaAI Mission” अब आर्टिफिशियल इंटेलिजेंस के दुरुपयोग को रोकने और भरोसेमंद AI के विकास की दिशा में एक बड़ा कदम उठा रहा है। सूचना प्रौद्योगिकी मंत्रालय (MeitY) के तहत शुरू की गई इस पहल में अब पाँच उन्नत प्रोजेक्ट्स को चुना गया है, जिनका मुख्य उद्देश्य है — डीपफेक, AI बायस, और जनरेटिव AI के दुरुपयोग से निपटना।

इन प्रोजेक्ट्स का नेतृत्व देश के प्रमुख तकनीकी संस्थान जैसे IIT जोधपुर, IIT मद्रास, IIT मंडी, IIT खड़गपुर और IIIT धारवाड़ कर रहे हैं। प्रत्येक प्रोजेक्ट का लक्ष्य है सुरक्षित, पारदर्शी और जिम्मेदार AI इकोसिस्टम का निर्माण करना।

1. “Saakshya” – डीपफेक मीडिया की पहचान के लिए मल्टी-एजेंट सिस्टम

IIT जोधपुर और IIT मद्रास मिलकर “Saakshya” नामक एक अत्याधुनिक फ्रेमवर्क विकसित कर रहे हैं। यह सिस्टम Retrieval-Augmented Generation (RAG) तकनीक पर आधारित होगा, जो डीपफेक इमेज, वीडियो और टेक्स्ट कंटेंट की सटीक पहचान करने में सक्षम होगा। इसका उद्देश्य केवल गलत कंटेंट पकड़ना नहीं, बल्कि उसके सोर्स, कॉन्टेक्स्ट और इंटेंट को समझना भी है — ताकि प्रशासनिक एजेंसियों और सोशल मीडिया प्लेटफॉर्म्स को फेक न्यूज और मैनिपुलेटेड कंटेंट के खिलाफ ठोस सबूत मिल सकें। यह सिस्टम भविष्य में भारत के डिजिटल गवर्नेंस मॉडल में भी एक “AI-based evidence verification tool” के रूप में काम कर सकता है।

2. “AI Vishleshak” – डीपफेक ऑडियो और फर्जी हस्ताक्षर की पहचान

IIT मंडी ने हिमाचल प्रदेश की Directorate of Forensic Services के साथ मिलकर “AI Vishleshak” प्रोजेक्ट शुरू किया है। यह एक Explainable AI (XAI) आधारित सिस्टम होगा जो ऑडियो-वीडियो डीपफेक, फर्जी हस्ताक्षर और दस्तावेजों की असलियत की जांच कर सकेगा। “AI Vishleshak” का मकसद फोरेंसिक टीमों को ऐसे टूल्स देना है जो अदालतों में AI-जनित सबूतों की प्रामाणिकता साबित करने में मदद कर सकें। इस तकनीक का सबसे बड़ा फायदा यह होगा कि यह न केवल “डीपफेक है या नहीं” बताएगी, बल्कि क्यों और कैसे वह नकली है — यह भी स्पष्ट करेगी।

3. IIT खड़गपुर का “Real-Time Voice Deepfake Detection System”

वॉइस-क्लोनिंग तकनीक तेजी से लोकप्रिय हो रही है — और इसी से सबसे बड़ा खतरा है वॉइस फ्रॉड का।इस चुनौती से निपटने के लिए IIT खड़गपुर एक ऐसा रियल-टाइम डिटेक्शन सिस्टम बना रहा है जो किसी व्यक्ति की आवाज़ के डीपफेक संस्करण को तुरंत पहचान सकेगा। यह सिस्टम कॉल सेंटर, बैंकिंग, साइबर सुरक्षा और सोशल मीडिया प्लेटफॉर्म्स के लिए बेहद उपयोगी साबित हो सकता है। विशेषज्ञों का मानना है कि आने वाले समय में वॉइस डीपफेक्स से फेक वेरिफिकेशन कॉल और घोटाले बढ़ सकते हैं, ऐसे में यह पहल बेहद समयानुकूल है।

4. Digital Futures Lab और Karya का “AI Bias Evaluation” प्रोजेक्ट

AI के विकास में बायस (bias) यानी पक्षपात एक बड़ी चुनौती है। Digital Futures Lab और Karya मिलकर कृषि क्षेत्र में इस्तेमाल होने वाले AI लैंग्वेज मॉडल्स में जेंडर बायस की जांच करेंगे। यह प्रोजेक्ट यह समझने की कोशिश करेगा कि क्या AI टूल्स महिलाओं किसानों के संदर्भ में गलत या भेदभावपूर्ण सुझाव दे रहे हैं। यह प्रयास भारत के AI ethics framework को मजबूत बनाने की दिशा में एक अहम कदम माना जा रहा है।

5. “Anvil” – जनरेटिव AI के लिए Penetration Testing Toolkit

अंतिम प्रोजेक्ट “Anvil” को Globals ITES और IIIT धारवाड़ मिलकर विकसित कर रहे हैं। यह एक उन्नत Penetration Testing Toolkit होगा, जो बड़े लैंग्वेज मॉडल्स (LLMs) और जनरेटिव AI सिस्टम्स की सुरक्षा कमजोरियों की जांच करेगा। “Anvil” के जरिए डेवलपर्स यह पता लगा सकेंगे कि किसी मॉडल को गलत इनपुट देकर या प्रॉम्प्ट इंजेक्शन से कैसे गुमराह किया जा सकता है, और उसे सुरक्षित बनाने के उपाय क्या हैं। यह कदम AI सुरक्षा को राष्ट्रीय साइबर रक्षा ढांचे से जोड़ने की दिशा में एक महत्वपूर्ण प्रगति है।

AI को ‘सुरक्षित और भरोसेमंद’ बनाने की ओर भारत का कदम

MeitY के अनुसार, इन पाँच प्रोजेक्ट्स के जरिए भारत AI सुरक्षा, नैतिकता और पारदर्शिता के क्षेत्र में वैश्विक स्तर पर अपनी स्थिति मजबूत कर रहा है। “IndiaAI Mission” का लक्ष्य केवल तकनीक विकसित करना नहीं, बल्कि ऐसा AI इकोसिस्टम बनाना है जो सामाजिक न्याय, जवाबदेही और डिजिटल भरोसे पर आधारित हो। डीपफेक्स और जनरेटिव AI के युग में जहां गलत सूचना और डेटा मैनिपुलेशन का खतरा बढ़ रहा है, वहीं भारत के ये प्रोजेक्ट्स एक सुरक्षित डिजिटल भविष्य की दिशा में आशा की किरण हैं। “Saakshya” से लेकर “Anvil” तक, हर पहल का उद्देश्य स्पष्ट है — AI को अधिक पारदर्शी, जिम्मेदार और इंसानों के लिए सुरक्षित बनाना।

क्या है 5 मिनट 24 सेकंड के Viral Video Alina Amir का सच ? पाकिस्तानी टिकटॉकर ने मरियम नवाज से लगाई मदद की गुहार, आरोपी पर रखा इनाम!