निशाने पर सैकड़ों महिलाएं, जानिए डिजिटल प्लेटफॉर्म का काला सच

आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल अब सिर्फ तकनीकी उपकरण तक सीमित नहीं रहा। इसके दुरुपयोग ने महिलाओं और लैंगिक अल्पसंख्यकों के लिए गंभीर खतरे पैदा कर दिए हैं। डीपफेक और AI-जनित अश्लील कंटेंट के बढ़ते मामलों ने सरकार, महिला आयोग और अंतरराष्ट्रीय संस्थाओं की चिंता बढ़ा दी है।

एक्स प्लेटफॉर्म और ग्रोक AI विवाद

भारत में हाल ही में X प्लेटफॉर्म के AI टूल Grok से जुड़ा अश्लील कंटेंट विवाद सामने आया है। इससे स्पष्ट हो गया है कि AI के दुरुपयोग ने ऑनलाइन उत्पीड़न का स्तर बढ़ा दिया है। केवल भारत ही नहीं, बल्कि दुनियाभर में महिलाओं और अल्पसंख्यकों पर डिजिटल हमले तेजी से बढ़ रहे हैं। संयुक्त राष्ट्र जनसंख्या कोष (UNFPA) भी इस पर गंभीर चिंता जता चुका है।

राष्ट्रीय महिला आयोग की चेतावनी

राष्ट्रीय महिला आयोग (NCW) ने कहा है कि डीपफेक और AI-जनित कंटेंट मौजूदा साइबर कानूनों को कमजोर कर रहा है। आयोग ने स्पष्ट रूप से मांग की है कि AI से बने फर्जी कंटेंट को अपराध घोषित किया जाए और सोशल मीडिया कंपनियों की जवाबदेही तय की जाए। एनसीडब्ल्यू की अध्यक्ष विजया किशोर राहतकर ने कहा कि महिलाओं की डिजिटल सुरक्षा के लिए कानूनों में तुरंत बदलाव होना चाहिए।

सरकार ने एक्स प्लेटफॉर्म को नोटिस जारी किया

राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा उठाए गए सवालों के बाद आईटी मंत्रालय ने एक्स को नोटिस जारी किया। मंत्रालय ने कहा कि ग्रोक AI टूल का दुरुपयोग महिलाओं के खिलाफ अश्लील कंटेंट बनाने में हो रहा है, जो आईटी एक्ट 2000 और IT Rules 2021 का उल्लंघन है। एक्स को 72 घंटे में सुधारात्मक कदम उठाने, आपत्तिजनक कंटेंट हटाने और नियम तोड़ने वाले यूजर्स के अकाउंट सस्पेंड या टर्मिनेट करने के निर्देश दिए गए हैं।

डीपफेक और ऑनलाइन उत्पीड़न का बढ़ता खतरा

अभिनेत्री गिरीजा ओक और सोशल मीडिया इंफ्लुएंसर कामिया बुच जैसे मामले इस खतरे को उजागर करते हैं। McAfee की रिपोर्ट के अनुसार, भारत में 75% लोग डीपफेक कंटेंट देखते हैं और लगभग 38% लोग इसका शिकार बनते हैं। 2020 से 2024 के बीच महिलाओं के खिलाफ साइबर अपराधों में 118% की बढ़ोतरी दर्ज की गई है।

समाधान और आगे की राह

एक्सपर्ट्स का मानना है कि इस खतरे से निपटने के लिए निचली अदालतों और साइबर सेल को सशक्त करना बेहद जरूरी है। इसके साथ ही सोशल मीडिया प्लेटफॉर्म की जवाबदेही तय करना और AI-जनित कंटेंट के नियम बनाना ही महिलाओं की सुरक्षा सुनिश्चित कर सकता है।