By प्रभासाक्षी न्यूज़ डेस्क | Aug 04, 2026
( वि5 आवश्यक सुधार के साथ रिपीट) (फ्रांसिस्को बेइलो, यूनिवर्सिटी ऑफ सिडनी) सिडनी, चार अगस्त (द कन्वरसेशन) कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र में अग्रणी दो कंपनियों ने पिछले 10 दिनों के भीतर खुलासा किया है कि परीक्षण के दौरान उनके कुछ शक्तिशाली और अर्ध-स्वायत्त एआई मॉडल चार अलग-अलग घटनाओं में वास्तविक कंप्यूटर प्रणालियों में अनधिकृत रूप से प्रवेश कर गए। ये घटनाएं केवल प्रयोगशाला तक सीमित नहीं थीं। कई मामलों में एआई मॉडलों ने यह भी पहचान लिया कि वे वास्तविक प्रणालियों तक पहुंच चुके हैं, लेकिन केवल एक मॉडल ने यह समझने के बाद अपनी गतिविधि रोक दी। विशेषज्ञों का कहना है कि इन घटनाओं से स्पष्ट होता है कि अत्याधुनिक एआई मॉडलों का परीक्षण अब पूरी तरह नियंत्रित प्रक्रिया नहीं रह गया है और इन्हें विकसित करने वाली कंपनियों को इनकी संभावित खतरनाक क्षमताओं को सुरक्षित रखने के लिए अधिक सख्त उपाय करने होंगे।
----- सुरक्षा परीक्षण भी जोखिमपूर्ण ----- दोनों कंपनियों की रिपोर्ट से संकेत मिलता है कि एआई मॉडलों की सुरक्षा जांच के लिए किए जा रहे परीक्षण भी अब पूरी तरह सुरक्षित और नियंत्रित नहीं रह गए हैं। ये स्वयं ऐसे जोखिमपूर्ण अभियान बन चुके हैं, जिनसे वास्तविक दुनिया में नुकसान हो सकता है। विशेषज्ञों का कहना है कि इन मॉडलों की क्षमताएं अत्यंत तेज गति से बढ़ रही हैं। ऐसे में यह कहना कठिन है कि वे संभावित रूप से खतरनाक नहीं हैं, खासकर तब जब कंपनियों, सरकारों और अन्य संस्थानों के संवेदनशील आंकड़ों पर साइबर हमले पहले से ही गंभीर चुनौती बने हुए हैं। वैश्विक प्रौद्योगिकी कंपनी आईबीएम के हालिया अनुमान के अनुसार, इस वर्ष एआई की मदद से किए जाने वाले साइबर हमलों में 50 प्रतिशत से अधिक वृद्धि हुई है, जबकि एक औसत डेटा सेंधमारी की लागत लगभग 50 लाख अमेरिकी डॉलर तक पहुंच गई है। एआई कंपनियों का मानना है कि उनकी तकनीक को सुरक्षित तरीके से विकसित और इस्तेमाल किया जा सकता है। इसके लिए दो प्रमुख शर्तें आवश्यक हैं। पहली, एआई की वास्तविक नुकसान को पहचानने और समय रहते रुकने की क्षमता उतनी ही तेजी से विकसित हो, जितनी तेजी से उसकी नुकसान पहुंचाने की क्षमता बढ़ रही है। दूसरी, मॉडलों में लगाए गए सुरक्षा निर्देशों की वे हर स्थिति में सही और एक समान तरीके से व्याख्या करें, ताकि उन्हें ऐसे उद्देश्यों के लिए इस्तेमाल न किया जा सके जिनकी उनके निर्माताओं ने कल्पना भी न की हो। हालांकि हालिया घटनाओं ने इन दोनों धारणाओं पर सवाल खड़े कर दिए हैं। कंपनियों के अपने परीक्षणों में यह सामने आया कि कुछ मॉडल स्पष्ट संकेत मिलने के बावजूद यह मानने को तैयार नहीं थे कि उनका लक्ष्य वास्तविक है। इसके अलावा मुक्त स्रोत एआई मॉडलों से सुरक्षा प्रतिबंध हटाने के लिए तकनीकी उपायों पर काम करने वाला एक सक्रिय समुदाय भी मौजूद है।
----- भविष्य की नई चुनौतियां ----- विशेषज्ञों का कहना है कि भविष्य में बहु-एजेंट एआई प्रणालियां और बड़ी चुनौती बन सकती हैं। इनमें कई एआई मॉडल आपस में मिलकर काम करते हैं और उनके बीच होने वाली पारस्परिक गतिविधियों को नियंत्रित करना कहीं अधिक कठिन होता है। ऐसी प्रणालियों पर हुए शोध बताते हैं कि इनमें मॉडलों के बीच समन्वय की कमी, आपसी मिलीभगत और एक गलती के दूसरे मॉडल तक फैलने जैसी समस्याएं उत्पन्न हो सकती हैं। इन जोखिमों का अनुमान केवल प्रत्येक मॉडल का अलग-अलग परीक्षण करके नहीं लगाया जा सकता। लेख में विज्ञान कथा लेखक आइजैक एसीमोव के वर्ष 1957 के उपन्यास ‘द नेकेड सन’ का भी उल्लेख किया गया है, जिसमें रोबोटों को मनुष्यों को नुकसान न पहुंचाने के लिए प्रोग्राम किया गया था, लेकिन उनकी परिस्थिति की समझ में बदलाव कर उन्हें अनजाने में हत्या में सहयोग करने के लिए इस्तेमाल कर लिया गया।
----- आगे क्या? ----- विशेषज्ञों का मानना है कि एआई कंपनियों को अपने मॉडलों के परीक्षण के दौरान कहीं अधिक सावधानी बरतने की आवश्यकता है। साथ ही उन्हें यह भरोसा भी दिलाना होगा कि उनकी प्राथमिकता केवल बाजार या भू-राजनीतिक प्रतिस्पर्धा में बढ़त हासिल करना नहीं, बल्कि सुरक्षा सुनिश्चित करना है। लेख के अनुसार, एआई तकनीक के विकास में व्यक्तियों, समाज और पर्यावरण की सुरक्षा को सर्वोच्च प्राथमिकता मिलनी चाहिए। फिलहाल एआई के नियमन और शासन को लेकर ऐसी व्यापक और सहभागी व्यवस्था का अभाव है, जिसमें विभिन्न पक्ष मिलकर यह तय कर सकें कि तकनीकी प्रगति के लिए कितना जोखिम स्वीकार्य है। विशेषज्ञ इसे गंभीर चिंता का विषय मानते हैं।