भारत में महिलाओं पर गिरी एआई और डीपफेक हिंसा की गाज

एआई से बनी तस्वीरें और डीपफेक न केवल महिलाओं की निजता का हनन करती हैं, बल्कि अब ये डिजिटल यौन उत्पीड़न का रूप भी ले चुकी हैं. इन खतरों को देखते हुए, महिला आयोग ने कुछ महत्वपूर्ण सुधारों की सिफारिश की है.

संयुक्त राष्ट्र जनसंख्या कोष (यूएनएफपीए) ने 5 दिसंबर को दिल्ली में एक बैठक कर देश में महिलाओं और लैंगिक अल्पसंख्यकों पर बढ़ते ऑनलाइन हमलों पर चिंता जताई. संगठन ने कहा कि साइबरस्टॉकिंग, नकली प्रोफाइल, बिना अनुमति फोटो या वीडियो फैलाना और डीपफेक जैसे मामले लगातार बढ़ रहे हैं. यूएनएफपीए का मानना है कि अब यह सिर्फ ऑनलाइन समस्या नहीं रही, बल्कि एक गंभीर मानवाधिकार मुद्दा बन गया है.

इसी नवंबर में भारत के राष्ट्रीय महिला आयोग ने महिलाओं की सुरक्षा के लिए साइबर कानून में बदलाव की मांग की थी. उनका कहना है कि डीपफेक, एआई-जनित कंटेंट और ऑनलाइन प्राइवेसी का उल्लंघन तेजी से बढ़ रहा है और मौजूदा कानून इन्हें रोकने में कमजोर साबित हो रहे हैं. महिला आयोग को लगता है कि इससे महिलाओं की सोशल मीडिया पर सुरक्षा खतरे में पड़ती है और उन्हें राहत मिलने में भी देरी होती है.

कुछ दिन पहले अभिनेत्री गिरिजा गोडबोले की एआई-जनित (मॉर्फ) तस्वीरें सोशल मीडिया पर तेजी से फैल गई. उन्होंने एक वीडियो जारी कर बताया कि ये तस्वीरें उनकी सहमति के बिना बनाई और शेयर की गई. गिरिजा ने कहा, "सोशल मीडिया पर बिना किसी नियम के ऐसी फर्जी तस्वीरें बनाई और फैलाई जाती हैं. मेरी ये तस्वीरें इंटरनेट पर हमेशा रहेंगी. यह सोचकर मुझे डर लगता है कि मेरा बारह साल का बेटा इन्हें देखेगा.”

पाकिस्तान: महिला नेताओं के खिलाफ हथियार बन रहे डीपफेक वीडियो

हाल ही में मैकऐफी ने ‘सबसे खतरनाक सेलेब्रिटी: डीपफेक धोखे की सूची' नामकी अपनी एक रिपोर्ट में बताया है कि भारत में हर वर्ष लगभग 75 प्रतिशत लोग डीपफेक कंटेंट देखते हैं. जबकि 38 प्रतिशत लोग डीपफेक स्कैम का शिकार होते हैं और 18 प्रतिशत लोगों को इसकी वजह से आर्थिक नुकसान उठाना पड़ता है. सरकारी आंकड़े भी दिखाते हैं कि महिलाओं की मॉर्फ की गई (बदली गई) तस्वीरों के मामले लगातार बढ़ रहे हैं. वर्ष 2020 से 2024 के बीच महिलाओं के खिलाफ साइबर अपराधों में 118 प्रतिशत बढ़ोतरी हुई है.

इस स्थिति को ध्यान में रखते हुए महिला आयोग ने चार नवंबर को भारत सरकार के संबंधित मंत्रालयों को पत्र लिखा. आयोग ने महिलाओं से जुड़े साइबर कानूनों की समीक्षा करने की सिफारिश की है.

महिला आयोग ने दिए ये सुझाव

भारत में स्मार्टफोन और सोशल मीडिया यूजर बढ़ रहे हैं. आज छोटे बच्चे तक के पास मोबाइल है. इसका गलत इस्तेमाल भी होता है. साधारण ऐप्स से तस्वीर और वीडियो बदलना बहुत आसान हो गया है. ये वीडियो और तस्वीरें बिलकुल असली लगती हैं और सोशल मीडिया पर ऐसा कंटेंट तेजी से फैलता है.

राष्ट्रीय महिला आयोग (एनसीडब्ल्यू) की अध्यक्ष विजया किशोर राहतकर ने डीडब्ल्यू से बात करते हुए कहा, "कई महिलाएं तब शिकायत करती हैं, जब नुकसान हो चुका होता है. वीडियो या तस्वीर किसने बनाई, उसका पता लगाना मुश्किल होता है. इससे किसी महिला की निजी जिंदगी, नौकरी और सुरक्षा तुरंत प्रभावित हो सकती है. देश को तेज, आधुनिक और सख्त साइबर कानूनों की जरूरत है. इन्हीं समस्याओं को देखते हुए महिला आयोग ने कुछ जरूरी बदलाव सुझाए हैं. हम चाहते हैं कि डिजिटल दुनिया जितनी बढ़े, डिजिटल सुरक्षा भी उतनी ही मजबूत हो."

आयोग का कहना है कि एआई से बनी फर्जी तस्वीरें और वीडियो को साफ तौर पर अपराध माना जाए. किसी भी बिना अनुमति के कंटेंट को तुरंत हटाने के प्रावधान हो. सोशल मीडिया कंपनियों की जवाबदेही बढ़ाई जाए, ताकि वे समय पर कार्रवाई कर सकें. साथ ही, महिलाओं की मदद और सबूतों की जांच के लिए तेज व आसान व्यवस्था बनाई जानी चाहिए.

महिलाओं की जिंदगियां बर्बाद कर रहे हैं डीपफेक वीडियो

आसानी से उपलब्ध हैं एआई टूल्स

हाल के वर्षों में भारत एआई टूल्स के लिए बड़ा टेस्टिंग ग्राउंड बन गया है. भारत ओपन एआई का दुनिया में दूसरा सबसे बड़ा मार्केट है. रति फाउंडेशन की रिपोर्ट के अनुसार, एआई अब उत्पीड़न का नया हथियार बन चुका है. तस्वीरों को बदलने वाले ये एप्स आसानी से इंटरनेट पर मिल जाते हैं. थर्ड‑पार्टी लोन ऐप डराने और धमकाने के लिए इसका इस्तेमाल करते हैं. लव रिवेंज या बदला लेने के लिए इसका प्रयोग आम हो गया है.

मॉर्फ की गई वीडियो और तस्वीरों का सबसे अधिक शिकार लड़कियां, खासकर नाबालिग, होती हैं. उनकी पहली चिंता है कि इंटरनेट से ये तस्वीरें तुरंत हटाई जाएं. यह उनके परिवार, दोस्तों या ऑफिस तक न पहुंचे. वरना उनकी पढ़ाई, काम और घर से बाहर निकलना तक बाधित हो सकता है. शिकायत करने पर सोशल मीडिया प्लेटफार्म मेटा इसे एक या दो दिन में हटा देता है.हॉलीवुड सेलेब्रिटी के नाम पर मेटा ने बनाए फ्लर्ट करने वाले एआई चैट बॉट्स

रति फाउंडेशन में प्रोग्राम लीड समीर पी. डीडब्ल्यू को बताते हैं, "जब कोई लड़की इन लोन ऐप्स को पैसा देने से मना करती है, तो ये ऐप एआई की मदद से अश्लील तस्वीर बना लेते हैं. इन्हें फोन नंबर के साथ वॉट्सएप और अन्य सोशल मीडिया प्लेटफार्म पर शेयर कर दिया जाता है. यह महिला को असुरक्षित और अपमानित महसूस कराता है. वहीं एक बार किसी तस्वीर या वीडियो के वायरल होने के बाद उसका बार-बार सामने आना मानसिक तनाव को और बढ़ा देता है."

भारतीय कानून में किन बदलावों की जरुरत है?

भारत में डीपफेक और मॉर्फ की गई तस्वीरों और वीडियो के लिए कुछ कानून मौजूद हैं. लेकिन ये आधुनिक एआई‑जनित खतरों से निपटने में प्रभावी नहीं माने जाते. आईटी एक्ट, भारतीय न्याय संहिता, और अन्य सिविल कानून के तहत मौजूद उपाय ज्यादातर प्रतिक्रियात्मक हैं. यानी ये केवल तब काम आते हैं जब नुकसान पहले ही हो चुका होता है.

इस वर्ष जुलाई में सोशल मीडिया इंफ्लुएंसर और एक्टिविस्ट कामिया बुच ने बिना अनुमति बनाई गई एआई-जनित अश्लील तस्वीरों और वीडियो के खिलाफ मामला दर्ज कराया. दिल्ली उच्च न्यायालय ने अंतरिम आदेश जारी कर सोशल मीडिया प्लेटफार्म एक्स और मेटा से इस कंटेंट को हटाने को कहा. साथ ही, गूगल को भी विवादित यूआरएल तुरंत हटाने का निर्देश दिया. न्यायालय ने माना कि यह कंटेंट कामिया की निजता, गरिमा और प्रतिष्ठा का उल्लंघन है. यह महिला के मौलिक अधिकारों का हनन करता है.

कामिया के वकील राघव अवस्थी इस तरह के कई मामलों को देखते हैं. चूंकि इंटरनेट कुछ नहीं भूलता, हर चीज हमेशा के लिए रिकॉर्ड हो जाती है. ऐसे में लोग चाहते हैं कि दोषी को जेल में डालने की बजाय उनका नुकसान कम किया जाए. राघव अवस्थी मानते हैं कि निचली अदालतों को ऐसे मामलों की सुनवाई के लिए सशक्त करना पड़ेगा.

राघव कहते हैं, "अभी डीपफेक, मॉर्फ या अश्लील डिजिटल कंटेंट के मामलों में तुरंत हटाने और ब्लॉकिंग के आदेश केवल उच्च न्यायालय ही दे सकता है. प्लेटफॉर्म्स को निर्देश देने और यूजर डेटा मांगने का अधिकार भी उच्च न्यायालय के पास है. लेकिन उच्च न्यायालय में केस लड़ने के लिए वकील और खर्च की आवश्यकता होती है, जो हर कोई एफोर्ड नहीं कर पाता. ऐसे में जिला न्यायालयों को ऐसे मामलों में सजा सुनाने की जिम्मेदारी देनी चाहिए. ताकि समय से कार्रवाई हो सके."

साइबर सेल को मजबूत करना होगा

सोशल मीडिया पर मॉर्फ और डीपफेक तस्वीरों का स्रोत पता करना बहुत मुश्किल होता है. सप्रीम कोर्ट में वरिष्ठ अधिवक्ता प्रिया हिंगोरानी ऐसे कई मामले लड़ चुकी हैं. वह बताती हैं कि हर थाने में विशेष साइबर सेल तो है, लेकिन यह जमीन पर उतना प्रभावी नहीं है जितना होना चाहिए.

प्रिया हिंगोरानी डीडब्ल्यू से कहती हैं, "साइबर सेल पुलिस से ज्यादा मदद नहीं मिलती. वे ज्यादा काम और बोझ के कारण व्यस्त रहते हैं. अधिकतर मामलों में कोई कार्रवाई नहीं होती या उन्हें फॉलो‑अप नहीं किया जाता. जब तक पुलिस मामला उठाती है, तब तक व्यक्ति की इज्जत और प्रतिष्ठा को ठेस पहुंच चुकी होती है."

कानूनों को आधुनिक बनाकर इसमें एआई अपराधों को शामिल करने की मांग जोर पकड़ रही है. साथ ही, शिकायत की प्रक्रिया में भी सुधार लाने की जरुरत पर बल दिया जा रहा है ताकि तेज और आसान राहत मिल सके.