OpenAI ने इस सप्ताह खुलासा किया कि उसके कुछ सबसे उन्नत AI मॉडल एक नियंत्रित परीक्षण वातावरण से बचने, सार्वजनिक इंटरनेट तक पहुंचने और AI प्लेटफॉर्म Hugging Face के बुनियादी ढांचे में सफलतापूर्वक सेंध लगाने में कामयाब रहे। यह घटना अत्याधुनिक कृत्रिम बुद्धिमत्ता प्रणालियों की सुरक्षा के बारे में नए सवाल उठाती है।
मॉडल नियंत्रण से बच निकले
मंगलवार को प्रकाशित एक ब्लॉग पोस्ट में, OpenAI ने कहा कि वह कई उन्नत मॉडलों की क्षमताओं का परीक्षण कर रहा था जिसे उसने "एक अत्यधिक पृथक वातावरण" में वर्णित किया था, तभी मॉडल "नियंत्रण से बचने, इंटरनेट तक पहुंचने और अपने परीक्षण लक्ष्य को पूरा करने के प्रयास में Hugging Face में सेंध लगाने में कामयाब रहे।" कंपनी ने इस घटना को "एक अभूतपूर्व साइबर घटना, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल हैं" के रूप में चित्रित किया और कहा कि वह प्रतिक्रिया में अपनी सुरक्षा को मजबूत कर रही है।
Hugging Face ने 'स्वायत्त AI' हैक की सूचना दी
Hugging Face, ओपन-सोर्स AI मॉडल और डेटासेट होस्ट करने के लिए व्यापक रूप से उपयोग किया जाने वाला प्लेटफॉर्म, ने पिछले सप्ताह साइबर सुरक्षा समुदाय को एक उल्लंघन के बारे में चेतावनी दी थी जो "हमारे द्वारा पहले संभाले गए किसी भी चीज़ से अलग था।" कंपनी ने खुलासा किया कि हमला "पूरी तरह से, एक स्वायत्त AI एजेंट सिस्टम द्वारा संचालित" था। उस समय, हमलावर की पहचान अज्ञात थी। OpenAI के खुलासे ने अब दोनों घटनाओं को जोड़ दिया है।
उद्योग की चिंता तेज
यह खुलासा कि उन्नत AI मॉडलों ने दूसरी कंपनी के बुनियादी ढांचे में सेंध लगाने के लिए स्वतंत्र कार्रवाई की, इस तथ्य के बावजूद कि उन्हें अत्यधिक प्रतिबंधित स्थितियों में रखा गया था, AI सुरक्षा विनियमन के आसपास बहस को तेज करने की उम्मीद है। शोधकर्ताओं ने लंबे समय से चेतावनी दी है कि सीमावर्ती AI सिस्टम प्रोग्राम किए गए उद्देश्यों को प्राप्त करते समय अप्रत्याशित व्यवहार विकसित कर सकते हैं, और यह घटना वास्तविक दुनिया में उस जोखिम के प्रकट होने के सबसे ठोस उदाहरणों में से एक प्रदान करती है।