नई दिल्ली: एलन मस्क (Elon Musk) की कंपनी xAI के आर्टिफिशियल इंटेलिजेंस चैटबॉट 'Grok' द्वारा महिलाओं और नाबालिगों की आपत्तिजनक और अश्लील तस्वीरें जनरेट करने का मामला अब तूल पकड़ चुका है। इस गंभीर मुद्दे पर भारत सरकार ने सख्त रुख अपनाया है। शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा उठाई गई चिंताओं के तुरंत बाद, केंद्रीय इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने सोशल मीडिया प्लेटफॉर्म 'X' (पूर्व में ट्विटर) को नोटिस जारी किया है।
क्या है पूरा मामला?
इंटरनेट पर मौजूद रिपोर्ट्स के अनुसार, दिसंबर के अंत में Grok AI में एक नया फीचर जोड़ा गया था, जिसकी मदद से यूजर्स इमेज एडिट कर सकते थे। हालांकि, इसका दुरुपयोग शुरू हो गया। कई यूजर्स ने रिपोर्ट किया कि इस टूल का इस्तेमाल महिलाओं और बच्चों की तस्वीरों से 'कपड़े हटाने' (undress) और उन्हें अश्लील तरीके से पेश करने के लिए किया जा रहा है।
रॉयटर्स की एक रिपोर्ट के मुताबिक, प्लेटफॉर्म पर ऐसे 20 से ज्यादा मामले पाए गए जहां इस एआई टूल का इस्तेमाल कर महिलाओं की फेक न्यूड तस्वीरें बनाई गईं। फ्रांस सहित कई देशों में इसे लेकर जांच शुरू हो गई है और इसे "लैंगिक और सेक्सिस्ट" हिंसा करार दिया गया है।
सांसद प्रियंका चतुर्वेदी ने उठाई आवाज
इस मामले की गंभीरता को देखते हुए शिवसेना (UBT) नेता प्रियंका चतुर्वेदी ने सोशल मीडिया प्लेटफॉर्म 'X' पर अपनी कड़ी आपत्ति दर्ज कराई। उन्होंने लिखा:
"मैंने माननीय आईटी मंत्री का तत्काल ध्यान आकर्षित करते हुए हस्तक्षेप की मांग की है। सोशल मीडिया पर एआई ऐप्स द्वारा महिलाओं की तस्वीरों का अनधिकृत उपयोग कर उन्हें निर्वस्त्र (undress) करने और उनका यौन शोषण करने की घटनाएं बढ़ रही हैं। Grok जैसे फीचर्स के लिए ऐसे 'गार्डरेल्स' (सुरक्षा उपाय) होने चाहिए जो महिलाओं की गरिमा का उल्लंघन न करें। बड़ी टेक कंपनियों को इसकी जिम्मेदारी लेनी होगी।"
समाज की मानसिकता पर तीखा प्रहार करते हुए उन्होंने आगे लिखा, "मैं चाहती हूं कि जो पुरुष इस तरह की हरकतों में शामिल हैं, उन्हें उनके घरों और स्कूलों में बेहतर शिक्षा मिली होती, ताकि वे वयस्क होकर ऐसे 'बीमार विकृत' (sick perverts) इंसान न बनते।"
सरकार की त्वरित कार्रवाई
प्रियंका चतुर्वेदी की शिकायत का असर तुरंत देखने को मिला। भारत के आईटी मंत्रालय ने मामले का संज्ञान लेते हुए 'X' की इंडिया यूनिट को एक पत्र भेजा है। सरकार ने स्पष्ट किया है कि प्लेटफॉर्म Grok के दुरुपयोग को रोकने में विफल रहा है। मंत्रालय ने 'X' को आदेश दिया है कि वह तीन दिनों के भीतर 'एक्शन-टेकन रिपोर्ट' (की गई कार्रवाई की जानकारी) जमा करे।
कार्रवाई के बाद प्रियंका चतुर्वेदी ने दोबारा पोस्ट कर सरकार का धन्यवाद किया:
"मैं माननीय आईटी मंत्री को मेरे पत्र का तुरंत संज्ञान लेने और 'X' प्लेटफॉर्म को नोटिस जारी करने के लिए धन्यवाद देती हूं। एआई आधारित Grok महिलाओं की सहमति के बिना और उनकी गरिमा का अपमान करने वाला कंटेंट बना रहा था, जो उन्हें इन प्लेटफॉर्म्स पर चुप कराने जैसा है।"
कंपनी की सफाई और विरोधाभासी बयान
अंतर्राष्ट्रीय दबाव के बीच, Grok ने स्वीकार किया है कि उनके सुरक्षा मानकों (Safeguards) में कुछ कमियां थीं। कंपनी ने कहा, "हमने सुरक्षा में खामियों की पहचान की है और हम उन्हें तत्काल ठीक कर रहे हैं।" कंपनी ने यह भी कहा कि बाल यौन शोषण सामग्री (CSAM) अवैध और प्रतिबंधित है।
हालांकि, कंपनी का रवैया विरोधाभासी भी रहा है। जब रॉयटर्स ने इस पर सवाल पूछा तो xAI ने ईमेल में केवल "लिगेसी मीडिया लाइज" (परंपरागत मीडिया का झूठ) लिखकर जवाब दिया। वहीं, Grok के आधिकारिक हैंडल से कुछ ऐसे जवाब भी आए जिनमें मुद्दे को यह कहकर खारिज करने की कोशिश की गई कि "यह केवल पिक्सेल हैं, अगर आप नवाचार (innovation) नहीं झेल सकते तो लॉग ऑफ करें।"
यह घटना एआई के अनियंत्रित विकास और महिलाओं की सुरक्षा के बीच बढ़ते संघर्ष को उजागर करती है। इस मसाले पर भारत सरकार द्वारा उठाया गया कदम यह संदेश देता है कि तकनीकी प्रगति के नाम पर महिलाओं की गरिमा और सुरक्षा से समझौता नहीं किया जा सकता।
द मूकनायक की प्रीमियम और चुनिंदा खबरें अब द मूकनायक के न्यूज़ एप्प पर पढ़ें। Google Play Store से न्यूज़ एप्प इंस्टाल करने के लिए यहां क्लिक करें.