नई दिल्ली: देश की सर्वोच्च अदालत ने न्याय प्रणाली में आर्टिफिशियल इंटेलिजेंस (AI) के अनियंत्रित इस्तेमाल को लेकर गहरी चिंता व्यक्त की है। सुप्रीम कोर्ट ने चेतावनी दी है कि अगर इसे बिना किसी नियमन के छोड़ दिया गया, तो यह हमारी बौद्धिक कार्यशैली में सेंध लगाकर हमें अपनी अपार क्षमताओं पर पूरी तरह से निर्भर बना देगा। इसके साथ ही, अदालत ने भारतीय बार काउंसिल (Bar Council of India) को एक समिति गठित करने का निर्देश दिया है।
यह समिति उन मामलों की जांच करेगी जहां अदालतों में फर्जी और एआई द्वारा गढ़े गए (hallucinated) दस्तावेजों को असली कानूनी नज़ीर के रूप में पेश किया जा रहा है।
जस्टिस पीएस नरसिम्हा और जस्टिस आलोक अराधे की पीठ ने इस मुद्दे पर सख्त रुख अपनाया है। इस बेंच ने राष्ट्रीय कंपनी कानून न्यायाधिकरण (NCLT) और राष्ट्रीय कंपनी कानून अपीलीय न्यायाधिकरण (NCLAT) के उन आदेशों को रद्द कर दिया है, जिनमें फर्जी एआई-जनरेटेड फैसलों पर भरोसा किया गया था।
अदालत ने अपने फैसले में विशेष रूप से 28 अगस्त, 2024 के NCLT आदेश और 11 सितंबर, 2025 के NCLAT आदेश का जिक्र किया। सुप्रीम कोर्ट ने पाया कि इन दोनों ही आदेशों में ऐसे कानूनी फैसलों का हवाला दिया गया था जिनका वास्तविकता में कोई अस्तित्व ही नहीं है। वहीं जिन मामलों में उद्धरण सही पाए गए, वहां की अधिकांश सामग्री एआई द्वारा गढ़ी गई थी।
अदालत ने अपनी टिप्पणी में साफ कहा कि न्यायिक प्रक्रिया में ऐसे फर्जी दस्तावेजों का इस्तेमाल पूरे सिस्टम को दूषित कर रहा है। ऐसे काल्पनिक और अस्तित्वहीन तथ्यों के आधार पर दिया गया कोई भी निर्णय असल में कोई फैसला है ही नहीं, और यह सीधे तौर पर कानून के शासन को खत्म करने के समान है। सुप्रीम कोर्ट ने स्पष्ट किया कि एआई के भ्रमित तथ्यों पर आधारित किसी भी फैसले को कतई स्वीकार नहीं किया जा सकता और उसे जल्द से जल्द खारिज किया जाना चाहिए।
सर्वोच्च न्यायालय ने इस गंभीर स्थिति से निपटने के लिए भारतीय बार काउंसिल को तत्काल कदम उठाने को कहा है। अदालत ने काउंसिल से कहा है कि वह बार के सदस्यों द्वारा ऐसी भ्रामक सामग्री पेश करने के मुद्दे पर अत्यंत गंभीरता से विचार करे। इसके अलावा, भविष्य में ऐसी घटनाओं को रोकने के लिए उचित दिशा-निर्देश तय करने और नियमों का उल्लंघन करने वालों के खिलाफ सख्त अनुशासनात्मक कार्रवाई सुनिश्चित करने के भी निर्देश दिए गए हैं।
न्याय प्रणाली में बिना जांचे-परखे एआई सामग्री के इस्तेमाल को सुप्रीम कोर्ट ने 'मिथाइल आइसोसाइनेट' गैस के रिसाव जैसा खतरनाक बताया है। अदालत का कहना है कि यह एक ऐसा अदृश्य और घातक जहर है, जो जब तक पकड़ में आता है, तब तक बहुत बड़ी तबाही मचा चुका होता है। यह सिर्फ न्याय प्रक्रिया को दूषित नहीं करता, बल्कि निष्पक्ष फैसले लेने की पूरी बुनियाद को ही खत्म कर देता है।
पीठ ने अदालतों से बिना सत्यापन के एआई-जनरेटेड उदाहरणों के इस्तेमाल पर 'जीरो टॉलरेंस' (शून्य सहिष्णुता) की नीति अपनाने का आह्वान किया है। अदालत ने कहा कि बिना पूरी जांच के ऐसे फैसलों का हवाला देना किसी भी वकील के लिए स्पष्ट रूप से कदाचार है। साथ ही, अगर कोई जज अपना फैसला सुनाने में ऐसी फर्जी एआई सामग्री पर भरोसा करता है, तो यह भी एक बेहद गंभीर चूक मानी जाएगी।
सुप्रीम कोर्ट ने स्पष्ट किया कि भले ही इस भ्रामक जानकारी का फैसले पर सीधा या परोक्ष असर पड़ा हो, कानून की नजर में ऐसे निर्णय का कोई महत्व नहीं रह जाता। न्याय-निर्णयन की पवित्रता बनाए रखने के लिए, यदि फैसले की प्रक्रिया में जरा सी भी फर्जी सामग्री शामिल होती है, तो उस फैसले को रद्द किया जाना चाहिए।
हालांकि, पीठ ने यह भी साफ किया कि उनका यह आदेश एआई के सही और उचित उपयोग के खिलाफ नहीं है, बल्कि इसका उद्देश्य केवल फर्जी सामग्री को कानूनी नज़ीर के तौर पर पेश करने से रोकना है।
न्यायपालिका में तकनीक के इस्तेमाल पर अदालत ने कहा कि तकनीक पर निर्भरता न्यायदान में कभी कोई समस्या नहीं रही है। अदालतों ने हमेशा तकनीक को आसानी से अपनाया है और इसे सिस्टम का अभिन्न अंग बनाया है। लेकिन एआई का मामला बिल्कुल अलग और परिवर्तनकारी है। यह केवल हमारे काम में मदद करने वाला उपकरण नहीं है, बल्कि यह इंसानी सोच, तर्क क्षमता और निर्णय लेने की प्रक्रिया का विकल्प बनता जा रहा है।
यही वह बिंदु है जहां अदालत ने अतिरिक्त सावधानी बरतने की सलाह दी है। बेंच ने चेतावनी दी कि अगर एआई का इस्तेमाल बिना किसी नियमन के होता रहा, तो यह चुपचाप कानूनी पेशे और फैसले लेने की पूरी प्रक्रिया में घुसपैठ कर लेगा। इंसान अक्सर अपनी जिम्मेदारियों को दूसरों पर सौंपकर आराम पाना चाहता है, लेकिन अगर सोचने-समझने की क्षमता एआई को सौंपने की आदत पड़ गई, तो इसके बेहद गंभीर परिणाम होंगे।
सही और गलत, सच और झूठ, या धर्म और अधर्म के बीच फर्क करने की इंसान की क्षमता ही उसके अस्तित्व का मूल है। सत्य तक पहुंचने का यह संघर्ष एक 'साधना' की तरह है। यदि हम वैज्ञानिक सोच के इस निरंतर अभ्यास को छोड़ देंगे, तो हम सही और गलत में भेद करने की अपनी क्षमता ही खो बैठेंगे।
अंत में, सर्वोच्च अदालत ने इस बात पर जोर दिया कि एआई के उपयोग पर पूर्ण और सख्त नियंत्रण होना बेहद आवश्यक है। यह नियंत्रण तभी संभव है जब हम इसके इस्तेमाल से दो कदम आगे रहें और यह सोच-समझकर तय करें कि इसे कब और कहां लागू करना है।
अदालत मानती है कि यह मुद्दा सिर्फ न्यायिक आदेशों से नहीं सुलझेगा, बल्कि इसके लिए मजबूत सार्वजनिक नीतियों और नियमों की जरूरत है। कानूनी पेशे में एआई के सही इस्तेमाल के लिए आज बार और बेंच के बीच जितने गहरे तालमेल और सावधानी की आवश्यकता है, उतनी पहले कभी नहीं रही।
द मूकनायक की प्रीमियम और चुनिंदा खबरें अब द मूकनायक के न्यूज़ एप्प पर पढ़ें। Google Play Store से न्यूज़ एप्प इंस्टाल करने के लिए यहां क्लिक करें.
‘द मूकनायक’ जनवादी पत्रकारिता करता है. यह संविधान, लोकतंत्र और सामाजिक न्याय पर चलने वाला मीडिया समूह है. अगर आप भी चाहते हैं कि ‘द मूकनायक’ हमेशा हाशिए पर खड़े लोगों की आवाज़ बुलंद करता रहे, बेजुबानों की पीड़ा दिखाते रहे तो सपोर्ट करें.
यहां सपोर्ट करें