वॉशिंगटन डीसी स्थित सेंटर फॉर द स्टडी ऑफ ऑर्गनाइज्ड हेट (CSOH) की एक नई रिपोर्ट ने भारत के डिजिटल परिदृश्य में एआई जनित छवियों के दुरुपयोग को उजागर किया है। यह रिपोर्ट, जो "एआई-जनित इमेजरी और भारत में इस्लामोफोबिया की नई सीमा" शीर्षक से प्रकाशित हुई है, दर्शाती है कि कैसे जेनरेटिव आर्टिफिशियल इंटेलिजेंस (जीएआई) टूल्स का इस्तेमाल करके मुसलमानों को निशाना बनाने वाली घृणा भरी सामग्री तेजी से फैल रही है।
मई 2023 से मई 2025 तक की अवधि में 297 सार्वजनिक अकाउंट्स से एकत्रित 1,326 एआई-जनित छवियों और वीडियो का विश्लेषण करते हुए रिपोर्ट में पाया गया कि ये सामग्रियां मुसलमानों को हिंसक, नैतिक रूप से भ्रष्ट और राष्ट्रीय सुरक्षा के लिए खतरा बताकर चित्रित करती हैं। यह न केवल भारत के ध्रुवीकृत डिजिटल स्पेस को और विषाक्त बना रही है, बल्कि वास्तविक दुनिया में हिंसा और भेदभाव को बढ़ावा दे रही है। रिपोर्ट ने चेतावनी दी है कि चैटजीपीटी जैसी एआई टूल्स के सस्ते सब्सक्रिप्शन प्लान्स के साथ भारत में इस तरह की सामग्री का विस्फोट अपरिहार्य है।
रिपोर्ट की शुरुआत वैश्विक संदर्भ से होती है, जहां 2022 में मिडजर्नी, स्टेबल डिफ्यूजन और डैल-ई जैसे टूल्स के उदय के बाद एआई-जनित छवियां लोकप्रिय हुईं। भारत, जहां 90 करोड़ इंटरनेट यूजर्स हैं, इन टूल्स का बड़े पैमाने पर उपयोग कर रहा है। लोकलसर्कल्स के एक सर्वे के अनुसार, 22 मिलियन भारतीय एआई प्लेटफॉर्म्स का इस्तेमाल इमेज क्रिएशन के लिए करते हैं। लेकिन रिपोर्ट के अनुसार, यह उपयोग harmless नहीं है। हिंदू फार-राइट ग्रुप्स द्वारा मुसलमानों, ईसाइयों और दलितों जैसे अल्पसंख्यकों को निशाना बनाने के लिए एआई का दुरुपयोग हो रहा है। रिपोर्ट में "एआई-जनित घृणा सामग्री" को परिभाषित किया गया है, जो संरक्षित समूहों को नकारात्मक स्टीरियोटाइपिंग, डिह्यूमनाइजेशन या हिंसा भड़काने के लिए इस्तेमाल होती है। भारत में लगभग 20 करोड़ मुसलमानों को निशाना बनाकर यह सामग्री सामाजिक संबंधों को नुकसान पहुंचा रही है, संवैधानिक धर्मनिरपेक्षता को कमजोर कर रही है और लोकतांत्रिक संस्थाओं को खतरे में डाल रही है।
रिपोर्ट की मेथडोलॉजी बहु-चरणीय थी, जिसमें पर्पसिव सैंपलिंग के जरिए 297 अकाउंट्स चुने गए, जो एक्स (पूर्व ट्विटर), फेसबुक और इंस्टाग्राम पर सक्रिय हैं। ये अकाउंट्स हिंदू फार-राइट के प्रतिनिधि हैं, जिनके पास लाखों फॉलोअर्स हैं और उच्च एंगेजमेंट रेट है। संयुक्त राष्ट्र की हेट स्पीच परिभाषा के आधार पर चयनित इन अकाउंट्स से मई 2023 से मई 2025 तक की पोस्ट्स स्कैन की गईं, जिनमें हिंदी और अंग्रेजी सामग्री शामिल थी। ज्यादातर पोस्ट्स जनवरी 2024 से अप्रैल 2025 तक केंद्रित थीं, जब एआई टूल्स की लोकप्रियता बढ़ी। मैनुअल कोडिंग से 1,326 एआई-जनित पोस्ट्स की पहचान की गई, जिनकी थीमेटिक कैटेगरी बनाई गई। साइट इंजन टूल से वेरिफिकेशन किया गया, जो 99% सटीकता के साथ एआई सामग्री को पहचानता है। रिपोर्ट की सीमाएं भी स्वीकार की गई हैं, जैसे कि निजी ग्रुप्स या अन्य भाषाओं की सामग्री शामिल न होना, लेकिन यह स्नैपशॉट व्यापक ट्रेंड्स को दर्शाता है।
डेटा एनालिसिस से पता चला कि ये 1,326 पोस्ट्स ने कुल 27.3 मिलियन एंगेजमेंट्स हासिल किए। एक्स पर 509 पोस्ट्स से 24.9 मिलियन एंगेजमेंट्स, इंस्टाग्राम पर 462 पोस्ट्स से 1.8 मिलियन, और फेसबुक पर 355 पोस्ट्स से 1.43 लाख। इंस्टाग्राम ने सबसे अधिक एंगेजमेंट रेट दिखाया, जो युवा यूजर्स के बीच इसकी पहुंच को दर्शाता है। थीम्स में चार मुख्य कैटेगरी उभरीं: मुस्लिम महिलाओं का सेक्शुअलाइजेशन (317 पोस्ट्स, 6.7 मिलियन एंगेजमेंट्स), एक्सक्लूजनरी और डिह्यूमनाइजिंग रेटोरिक (291 पोस्ट्स, 6.4 मिलियन), कॉन्स्पिरेटोरियल नैरेटिव्स (457 पोस्ट्स, 6 मिलियन), और वायलेंट इमेजरी का एस्थेटिसाइजेशन (134 पोस्ट्स, 6 मिलियन)। अन्य कैटेगरी में 132 पोस्ट्स थे। 2024 के मध्य से गतिविधि में तेज वृद्धि हुई, जो एआई टूल्स की पहुंच से जुड़ी है।
रिपोर्ट के प्रमुख निष्कर्ष चौंकाने वाले हैं। पहला, जीएआई टूल्स ने इस्लामोफोबिया को अभूतपूर्व स्तर पर पहुंचा दिया है। 2023 में न्यूनतम गतिविधि के बाद 2024 के मध्य से स्पाइक्स देखे गए, जैसे सितंबर 2024 में 'रेल जिहाद' थ्योरी और मार्च 2025 में घिबली-स्टाइल इमेजरी। दूसरा, इंस्टाग्राम ने सबसे अधिक एंगेजमेंट (1.8 मिलियन) दिखाया, जो दर्शाता है कि विजुअल प्लेटफॉर्म्स घृणा फैलाने में प्रभावी हैं। तीसरा, मुस्लिम महिलाओं का सेक्शुअलाइजेशन सबसे अधिक एंगेज्ड कैटेगरी (6.7 मिलियन) है, जो मिसोजिनी और इस्लामोफोबिया का घालमेल दिखाता है। चौथा, 'लव जिहाद', 'पॉपुलेशन जिहाद' और 'रेल जिहाद' जैसी साजिशें एआई छवियों से मजबूत हो रही हैं, जहां मुसलमानों को हिंदू समाज के लिए खतरा बताया जाता है।
पांचवां, डिह्यूमनाइजेशन में सांपों को टोपी पहनाकर मुसलमानों को धोखेबाज और विषैले दिखाया जाता है। छठा, स्टाइलिश एआई एस्थेटिक्स (जैसे स्टूडियो घिबली) हिंसक सामग्री को हास्यपूर्ण बनाती हैं, जो युवाओं तक पहुंचती हैं। सातवां, ओपइंडिया, सुदर्शन न्यूज और पंचजण्य जैसे हिंदू फार-राइट मीडिया ने एआई को मुख्यधारा में धकेल दिया। आठवां, प्लेटफॉर्म्स की नाकामी: 187 रिपोर्टेड पोस्ट्स में से केवल एक हटाई गई। ये निष्कर्ष दर्शाते हैं कि छोटी संख्या वाले अकाउंट्स ने सीमित समय में विशाल घृणा फैलाई, जो एआई के प्रसार से और बढ़ेगी।
रिपोर्ट की एनालिसिस में कॉन्स्पिरेटोरियल नैरेटिव्स प्रमुख हैं, जहां मुसलमानों को हिंसक, नैतिक रूप से भ्रष्ट और जिहादी बताया जाता है। उदाहरणस्वरूप, पश्चिम बंगाल के नायहाटी में 2025 में एक किशोरी की हत्या को सांप्रदायिक रंग देकर एआई छवि में आरोपी को टोपी पहनाकर दिखाया गया। गुजरात के नावसारी पार्किंग विवाद को मुस्लिम हमले के रूप में चित्रित किया गया, जबकि पुलिस ने सांप्रदायिक कोण नकारा। नैतिक पतन की थीम में बुरका पहनाई महिलाओं को घेरकर इनसेस्ट का आरोप लगाया जाता है, जो यूनिफॉर्म सिविल कोड के पक्ष में प्रचार है। हास्य के बहाने क्रिकेट या कृषि मेटाफर्स से मुस्लिम परिवारों को विकृत दिखाया जाता है।
'लव जिहाद' में मुस्लिम पुरुषों को हिंदू महिलाओं पर हमलावर दिखाया जाता है, जैसे इंदौर के हार्तलिका तीज पर छेड़छाड़ को सांप्रदायिक बनाना। 'पॉपुलेशन जिहाद' में गर्भवती मुस्लिम महिलाओं को बोझ बताकर डेमोग्राफिक टेकओवर का डर फैलाया जाता है। 'रेल जिहाद' में ट्रेन दुर्घटनाओं को मुस्लिम तोड़फोड़ से जोड़ा जाता है, जैसे जलगांव हादसे को साजिश बताना। ये नैरेटिव्स एंगेजमेंट बढ़ाने के लिए विजुअल्स का इस्तेमाल करते हैं, जो प्लेटफॉर्म एल्गोरिदम को गेम करते हैं।
एक्सक्लूजनरी रेटोरिक में मुसलमानों को गैर-मानवीय बनाया जाता है। एनिमल मेटाफर्स में सांपों को टोपी पहनाकर धोखेबाज दिखाया जाता है, जो नाजी और र्वांडा प्रोपेगैंडा की याद दिलाता है। ईद पर बकरों को मानवीय पीड़ा देकर मुसलमानों को क्रूर बताया जाता है, जो गौ-रक्षा हिंसा को भड़काता है। ह्यूमन राइट्स वॉच के अनुसार, 2015-2018 में 44 गौ-हिंसा पीड़ितों में 36 मुसलमान थे।
खतरे की फ्रेमिंग में बुरका को अपराधी बनाया जाता है, जैसे "बुरका में चोरी नहीं चलेगी" कैप्शन्स। मुसलमानों को घुसपैठिए दिखाकर डेमोग्राफिक आक्रमण का डर फैलाया जाता है, जो भाजपा की चुनावी रणनीति से मेल खाता है। पहलगाम हमले (2025) के बाद मुसलमानों को आतंकी समर्थक बताकर 184 हेट क्राइम्स हुए। ये छवियां मुसलमानों को पांचवीं कॉलम के रूप में चित्रित करती हैं, जो राष्ट्रीय एकता को तोड़ती हैं।
मुस्लिम महिलाओं का सेक्शुअलाइजेशन सबसे घातक थीम है, जो गुजरात 2002 दंगों की याद दिलाता है। सुल्ली डील्स और बुल्ली बाई ऐप्स के बाद अब एआई से हिजाब वाली महिलाओं को हिंदू पुरुषों के साथ अंतरंग दृश्य बनाए जाते हैं। क्विंट की 2025 जांच में 250 इंस्टाग्राम पेज मिले, जो सॉफ्ट-पॉर्न बनाते हैं। ये छवियां महिलाओं को बिना सहमति के विजय का प्रतीक बनाती हैं, जो सांस्कृतिक अपमान है। रिपोर्ट में ओपनैटिक हैंडल की पोस्ट उदाहरण है, जहां बुरका वाली महिला को "युद्ध के बाद रखैल" कहा गया। यह मिसोजिनी को इस्लामोफोबिया से जोड़ता है, जो महिलाओं पर मनोवैज्ञानिक हिंसा करता है।
एआई ने हिंसा को आकर्षक बना दिया है। घिबली-स्टाइल इमेजरी बाबरी विध्वंस (1992) को उत्सवी बनाती है, जो 2,000 मुस्लिम मौतों को भुला देती है। भाजपा की पोस्ट्स में एलके आडवाणी को राम मंदिर स्लोगन के साथ दिखाया गया। 1989 भागलपुर दंगों का फूलगोभी मेटाफर छत्तीसगढ़ नक्सल एनकाउंटर से जोड़ा गया। दिल्ली में नमाज के दौरान लात मारने की घटना को एनिमेटेड बनाकर क्रूरता को सॉफ्ट किया गया। ये छवियां हिंसा को सामान्य बनाती हैं, जो युवाओं को प्रभावित करती हैं।
हिंदू फार-राइट मीडिया एआई को हथियार बना रहा है। ओपइंडिया नेटवर्क (9 अकाउंट्स) ने 262 पोस्ट्स से 1.1 मिलियन एंगेजमेंट्स हासिल किए, जहां नूपुर शर्मा लीड करती हैं। हिंदूफोबिया ट्रैकर पहलगाम हमले पर मुसलमानों को जश्न मनाते दिखाता है। सुदर्शन न्यूज ने 187 पोस्ट्स से रेल जिहाद फैलाया, जैसे जलगांव हादसे को तोड़फोड़ बताना। पंचजन्य ने गणपति पर हमले की फर्जी छवि शेयर की। ये आउटलेट्स भाजपा से जुड़े हैं, जो घृणा को मुख्यधारा बनाते हैं।
सीएसओएच टीम ने ऐसे 187 आपतिजनक पोस्ट्स रिपोर्ट की, लेकिन केवल एक हटी। एक्स पर 108, फेसबुक पर 37 और इंस्टाग्राम पर 42 पोस्ट्स बनी रहीं। यह प्लेटफॉर्म्स की एआई-जागरूक मॉडरेशन की कमी दिखाता है। स्लोपागांडा (कम गुणवत्ता वाली सिंथेटिक सामग्री) एल्गोरिदम को गेम करती है, जो घृणा को वायरल बनाती है।
रिपोर्ट का निष्कर्ष चिंताजनक है। एआई ने पुरानी घृणा को नई विजुअल भाषा दी है, जो मुसलमानों को डर, अपमान और बहिष्कार की ओर धकेल रही है। हिंदू फार-राइट मीडिया ने इसे मुख्यधारा बनाया, जबकि प्लेटफॉर्म्स निष्क्रिय हैं। इससे संवैधानिक सुरक्षा कमजोर हो रही है। वैश्विक रूप से, यह एआई कंपनियों और सोशल मीडिया के लिए खतरा है। भारत में चैटजीपीटी के सस्ते प्लान से विस्फोट होगा। बिना हस्तक्षेप के, एआई घृणा डिजिटल स्पेस का हिस्सा बनेगी।
रिपोर्ट 9 सिफारिशें देती है। पहला, आईटी एक्ट में एआई के लिए विशेष प्रावधान, जैसे यूनेस्को गाइडलाइंस से पारदर्शिता। दूसरा, एडजुडिकेटरी अथॉरिटी स्थापित करना। तीसरा, डेवलपर्स पर ट्रांसपेरेंसी और सेफ्टी। चौथा, एआई टूल्स में प्रोवेनेंस मेटाडेटा। पांचवां, मीडिया के लिए एआई स्टैंडर्ड्स, जैसे एनबीडीएसए गाइडलाइंस। छठा, ओपन-सोर्स डेटाबेस। सातवां, एल्गोरिदमिक ट्रांसपेरेंसी और ऑडिट। आठवां, क्रॉस-प्लेटफॉर्म वॉर्निंग सिस्टम। नौवां, वायरल सिंथेटिक हेट पर फ्रिक्शन। ये कदम घृणा को रोक सकते हैं, लेकिन तत्काल कार्रवाई जरूरी है।
Read the full report here:
द मूकनायक की प्रीमियम और चुनिंदा खबरें अब द मूकनायक के न्यूज़ एप्प पर पढ़ें। Google Play Store से न्यूज़ एप्प इंस्टाल करने के लिए यहां क्लिक करें.