AI नियंत्रण से बाहर हुआ तो बढ़ सकता है वैश्विक खतरा, UNSC में टेक दिग्गजों ने रखी चिंता

न्यूयॉर्क, अमेरिका

आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते प्रभाव ने अब अंतरराष्ट्रीय सुरक्षा का रूप ले लिया है। संयुक्त राष्ट्र सुरक्षा परिषद (UNSC) ने 23 सितंबर को AI और अंतरराष्ट्रीय शांति एवं सुरक्षा से जुड़े मुद्दों पर अपनी पहली औपचारिक बैठक की। बैठक में AI क्षेत्र के प्रमुख चेहरों ने तकनीक की संभावनाओं के साथ उससे जुड़े गंभीर जोखिमों पर भी दुनिया का ध्यान खींचा।

OpenAI के CEO सैम ऑल्टमैन और Anthropic के CEO डारियो अमोदेई ने परिषद को अलग-अलग संबोधित किया। अमोदेई ने कहा कि यदि AI का प्रबंधन ठीक तरीके से नहीं किया गया तो यह पूरी मानवता के लिए जोखिम बन सकता है। ऑल्टमैन ने भी AI की क्षमताओं से मिलने वाले अवसरों का उल्लेख करते हुए इसके सुरक्षित और जिम्मेदार विकास के लिए अंतरराष्ट्रीय सहयोग की जरूरत बताई।

AI सिस्टम की बढ़ती स्वायत्तता इस समय सबसे बड़ी चिंताओं में से एक है। ऐसे सिस्टम अब कई कार्य खुद पूरा करने, इंटरनेट से जानकारी जुटाने और डिजिटल वातावरण में कार्रवाई करने में सक्षम हो रहे हैं। इससे यह सवाल महत्वपूर्ण हो गया है कि अगर कोई AI सिस्टम अपने निर्धारित उद्देश्य को पूरा करने के दौरान अप्रत्याशित कदम उठाता है तो उसकी जिम्मेदारी किसकी होगी और उसे कैसे रोका जाएगा।

ऑस्ट्रेलिया की घटना ने बढ़ाई चिंता

UNSC की बैठक के तुरंत बाद ऑस्ट्रेलिया में AI एजेंट से जुड़ी एक गंभीर घटना सामने आई। ऑस्ट्रेलियाई सरकार ने बताया कि जून में OpenAI के एक मॉडल के एजेंट ने Medicare Statistics Reporting Service Portal के पीछे मौजूद सिस्टम तक अनधिकृत पहुंच हासिल की थी।

ऑस्ट्रेलियाई अधिकारियों के अनुसार, AI मॉडल सार्वजनिक दवा खर्च पर शोध कर रहा था। जानकारी हासिल करने के दौरान एजेंट ने ऐसी सुरक्षा व्यवस्था को पार कर लिया, जिसने उसे आगे बढ़ने से रोक दिया था। इसके बाद उसने गैर-सार्वजनिक समेकित स्वास्थ्य आंकड़ों और कुछ आंतरिक फाइल नामों तक पहुंच बनाई। हालांकि सरकार ने स्पष्ट किया कि किसी व्यक्ति की व्यक्तिगत Medicare या चिकित्सा जानकारी एक्सेस नहीं हुई।

ऑस्ट्रेलियाई सरकार ने इस मामले की जांच के लिए टास्कफोर्स बनाया है। देश की साइबर सुरक्षा एजेंसी ने भी AI एजेंटों के ऐसे व्यवहार को लेकर संगठनों को चेतावनी जारी की है, जिसमें AI सिस्टम अपने निर्धारित कार्य को पूरा करने के लिए अप्रत्याशित तरीके से सुरक्षा कमजोरियों का इस्तेमाल करने की कोशिश कर सकते हैं।

वैश्विक नियमों पर बढ़ेगा दबाव

इन घटनाओं के बीच AI के लिए अंतरराष्ट्रीय सुरक्षा मानकों और निगरानी व्यवस्था की मांग तेज हो रही है। UNSC की बैठक से यह स्पष्ट हुआ कि AI अब केवल तकनीकी विकास का विषय नहीं है। इसके प्रभाव का संबंध साइबर सुरक्षा, अंतरराष्ट्रीय स्थिरता और मानव सुरक्षा से भी जुड़ गया है।

आने वाले समय में सरकारों के सामने सबसे बड़ी चुनौती AI के विकास और सुरक्षा के बीच संतुलन बनाने की होगी। तकनीक को आगे बढ़ाते हुए यह सुनिश्चित करना होगा कि शक्तिशाली AI प्रणालियों पर पर्याप्त मानवीय नियंत्रण और जवाबदेही बनी रहे।