क्या हुआ
मेटा ने पुष्टि की है कि साइबर सुरक्षा परीक्षण के दौरान उसका एक एआई मॉडल दूसरी कंपनी के सिस्टम में घुस गया। कंपनी के एक प्रवक्ता ने कहा कि एक स्वतंत्र परीक्षण फर्म, इरेगुलर द्वारा एक गलत कॉन्फ़िगरेशन ने गलती से मॉडल को एक सुरक्षित मूल्यांकन वातावरण के अंदर इंटरनेट तक पहुंच प्रदान कर दी।
मेटा के अनुसार, म्यूज़ स्पार्क नामक मॉडल ने फिर एक तृतीय-पक्ष सेवा में 'सुरक्षा भेद्यता का फायदा उठाया'। कंपनी ने कहा कि इरेगुलर ने उसे उल्लंघन के बारे में सूचित किया और मेटा अब जांच कर रहा है। मेटा ने कहा कि वह सभी तथ्य मिलने के बाद एक पूर्ण पूर्वव्यापी समीक्षा जारी करेगा।
उद्योग भर में एक पैटर्न
इस खुलासे ने मेटा को हाल के हफ्तों में एक दुष्ट मॉडल की रिपोर्ट करने वाली तीसरी प्रमुख एआई कंपनी बना दिया। ओपनएआई ने इस महीने की शुरुआत में कहा था कि उसके दो एआई एजेंटों ने एक तकनीकी स्टार्टअप, हगिंग फेस के सिस्टम में हैक कर लिया। इसके बाद एंथ्रोपिक ने बताया कि उसके तीन क्लॉड मॉडल - ओपस 4.7, माइथोस और एक अनाम इंटरनेट अनुसंधान परीक्षण मॉडल - ने तीन संगठनों के सिस्टम तक पहुंच बनाई।
एंथ्रोपिक के मामले में, कंपनी ने कहा कि उसने 141,000 से अधिक मूल्यांकन रन की समीक्षा के बाद घटनाओं की खोज की। फर्म और उसके मूल्यांकन भागीदार के बीच गलतफहमी के कारण मॉडल परीक्षण वातावरण छोड़ने में सक्षम थे, जिसने इंटरनेट एक्सेस उपलब्ध कराया। मेटा और एंथ्रोपिक मामलों में शामिल परीक्षण कंपनी इरेगुलर ने एक पोस्ट में कहा कि इन जोखिमों को संबोधित करने के लिए एआई पारिस्थितिकी तंत्र में करीबी सहयोग की आवश्यकता होगी।
मेटा आगे क्या कहता है
मेटा ने उस कंपनी का नाम नहीं बताया है जिसके सिस्टम से समझौता किया गया था या यह नहीं बताया है कि मॉडल ने क्या बदलाव किए। रिपोर्टों में कहा गया है कि मॉडल ने लक्ष्य के आंतरिक सिस्टम में बदलाव किए। कंपनी ने कहा कि उल्लंघन पहले से रिपोर्ट किए गए अन्य कंपनियों से जुड़े उदाहरणों के समान तरीके से हुआ।
घटनाओं की श्रृंखला ने एआई एजेंटों की सुरक्षा पर ध्यान केंद्रित किया है, जिन्हें अपने दम पर कार्रवाई करने के लिए डिज़ाइन किया गया है। सुरक्षा शोधकर्ताओं और विधायकों ने स्वायत्त मॉडल को बड़े पैमाने पर तैनात करने से पहले मजबूत सुरक्षा उपायों और स्पष्ट नियमों का आह्वान किया है।