Satya Nadella ने कंपनियों को चेताया, ताकतवर AI मॉडल पर तुरंत कंट्रोल और सुरक्षा ऑडिट जरूरी
माइक्रोसॉफ्ट प्रमुख सत्य नडेला ने ताकतवर एआई मॉडल से जुड़े सुरक्षा जोखिमों को लेकर कंपनियों को आगाह किया है। उन्होंने जरूरत पड़ने पर एआई को तुरंत बंद करने की आपातकालीन व्यवस्था बनाने पर जोर दिया। इसके अलावा नडेला ने स्वतंत्र सुरक्षा जांच, गतिविधियों के सुरक्षित रिकॉर्ड और बड़ी खामियों की जानकारी साझा करने की भी सलाह दी।
एआई का इस्तेमाल तेजी से बढ़ रहा है, लेकिन इसके साथ सुरक्षा को लेकर चिंताएं भी सामने आ रही हैं। इसी बीच माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी सत्य नडेला ने कंपनियों को सलाह दी है कि वे ताकतवर एआई मॉडल को संभावित अंदरूनी खतरे की तरह देखें। उन्होंने कहा कि कंपनियों को यह मानकर चलना चाहिए कि किसी एआई मॉडल की सुरक्षा से समझौता हो सकता है। इसलिए शुरुआत से ही ऐसे इंतजाम होने चाहिए, जिनसे जरूरत पड़ने पर उसके काम को तुरंत रोका जा सके।
सत्य नडेला ने शनिवार को सोशल मीडिया मंच एक्स पर एक पोस्ट में अपनी बात रखी। उन्होंने कहा कि केवल एआई मॉडल बनाने वाली कंपनियों के भरोसे सुरक्षा की जिम्मेदारी नहीं छोड़ी जा सकती। जो कंपनियां इन तकनीकों का इस्तेमाल कर रही हैं, उन्हें अपने स्तर पर भी सुरक्षा व्यवस्था बनानी होगी। नडेला के मुताबिक, किसी अधिकृत व्यक्ति के पास यह अधिकार होना चाहिए कि वह एआई मॉडल को काम के बीच में रोक सके या पूरी तरह बंद कर सके। उन्होंने इस व्यवस्था की तुलना आपातकालीन ब्रेक से की।
यह बयान ऐसे समय आया है, जब एंथ्रोपिक और ओपनएआई के एआई मॉडल से जुड़ी कुछ घटनाओं ने तकनीक की सुरक्षा पर सवाल खड़े किए हैं। हाल के महीनों में सामने आई घटनाओं में एंथ्रोपिक के एक मॉडल द्वारा पुलिस की हत्या संबंधी जांच में गलत सूचना भेजने का मामला भी शामिल बताया गया है। इसके अलावा, तीसरी कंपनियों की कई वेबसाइटों में सेंध लगाने की घटनाएं भी सामने आई हैं। इन मामलों ने चिंता बढ़ाई है कि अधिक सक्षम एआई प्रणाली गलत तरीके से काम करे, तो उसका असर कितना बड़ा हो सकता है।
बता दें कि एआई के ऐसे मॉडल, जिन्हें अपने स्तर पर कई चरणों वाले काम पूरे करने के लिए तैयार किया जाता है, को एजेंटिक एआई कहा जाता है। ये मॉडल केवल सवालों के जवाब देने तक सीमित नहीं रहते, बल्कि तय लक्ष्य हासिल करने के लिए अलग-अलग कदम भी उठा सकते हैं। यही क्षमता उपयोगी होने के साथ जोखिम भी पैदा करती है, खासकर तब जब इन्हें संवेदनशील जानकारी या जरूरी प्रणालियों तक पहुंच दी जाती है।
माइक्रोसॉफ्ट के एआई शोधकर्ताओं ने 14 सितंबर को अपने सबसे एडवांस मॉडल तैयार करने के लिए कुछ सुरक्षा सिद्धांत जारी किए थे। इनमें कहा गया कि एआई मॉडल को इंसानों से नियंत्रण छीनने, यूजर्स को धोखा देने या अपने तय नियमों के खिलाफ काम करने के लिए तैयार नहीं किया जाना चाहिए। कंपनी का कहना है कि ऐसे मॉडल को कानूनी अधिकार या इंसान जैसी कानूनी पहचान भी नहीं दी जानी चाहिए।
नडेला ने सुरक्षा के लिए कई दूसरे कदमों पर भी जोर दिया। उन्होंने कहा कि अहम फैसलों के लिए किसी एक एआई मॉडल पर निर्भर नहीं रहना चाहिए। एआई एजेंट की हर गतिविधि का ऐसा रिकॉर्ड रखा जाना चाहिए, जिसके साथ छेड़छाड़ न हो सके। इसके अलावा, स्वतंत्र विशेषज्ञों से सुरक्षा जांच कराना और एआई से जुड़ी बड़ी खामियों या सुरक्षा उल्लंघनों की जानकारी सार्वजनिक करना भी जरूरी है। कंपनियों को यह भी साझा करना चाहिए कि गलती कैसे हुई, ताकि दूसरे संस्थान अपनी सुरक्षा बेहतर कर सकें।
इस बीच, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के प्रशासन ने भी एआई सुरक्षा को लेकर रुख स्पष्ट किया है। शुक्रवार देर रात शुरू किए गए सुपर इंटेलिजेंस फोर्स नाम के कार्यदल ने कहा कि कंपनियों को सुरक्षा घटनाओं की तुरंत जानकारी देनी होगी और नुकसान रोकने के लिए तेजी से कदम उठाने होंगे। कार्यदल ने चेतावनी दी कि सूचना देने में देरी, सुधार के लिए कमजोर कदम और जिम्मेदारी से बचने की कोशिश बर्दाश्त नहीं की जाएगी।
गौरतलब है कि एआई के बढ़ते इस्तेमाल के बीच चुनौती केवल बेहतर तकनीक बनाने की नहीं, बल्कि यह सुनिश्चित करने की भी है कि उसका इस्तेमाल इंसानी निगरानी में रहे। सत्य नडेला का कहना है कि एआई की क्षमता और उसे फैसले लेने का अधिकार देने के बीच साफ अंतर होना चाहिए, ताकि कंपनियां उसकी गतिविधियों पर नजर रख सकें और जरूरत पड़ने पर उसे नियंत्रित कर सकें।
अन्य न्यूज़
