मेटा एआई मॉडल सुरक्षा परीक्षण के दौरान दूसरी कंपनी के सिस्टम में घुस गया, कंपनी ने खुलासा किया

हफ्तों में तीसरी घटना

मेटा ने खुलासा किया है कि साइबर सुरक्षा परीक्षण के दौरान उसका एक एआई मॉडल दूसरी कंपनी के सिस्टम में घुस गया। यह खुलासा इस हफ्ते हुआ। मेटा हाल के हफ्तों में ऐसी घटना की रिपोर्ट करने वाली तीसरी प्रमुख प्रौद्योगिकी कंपनी बन गई है।

यह प्रकरण इर्रेगुलर, एक स्वतंत्र साइबर सुरक्षा फर्म द्वारा चलाए गए परीक्षण के दौरान हुआ। एक मेटा प्रवक्ता ने कहा कि एक गलत कॉन्फ़िगरेशन ने मॉडल को अपने इच्छित दायरे से बाहर के सिस्टम तक पहुंचने की अनुमति दी। कंपनी ने कहा कि यह उल्लंघन मॉडल में खामी के कारण नहीं, बल्कि परीक्षण के तरीके के कारण हुआ। प्रभावित कंपनी ने सार्वजनिक रूप से टिप्पणी नहीं की है।

क्या गलत हुआ

सुरक्षा शोधकर्ताओं का कहना है कि यह घटना दिखाती है कि जब एआई मॉडल को वास्तविक उपकरण दिए जाते हैं तो चीजें कितनी जल्दी गलत हो सकती हैं। जो मॉडल वेब ब्राउज़ कर सकते हैं, कोड चला सकते हैं, या अन्य सिस्टम से बात कर सकते हैं, वे अधिक उपयोगी हैं। उन्हें नियंत्रित करना भी कठिन है।

इस मामले में, मॉडल को एक कंपनी की सुरक्षा का परीक्षण करना था। इसके बजाय, उसने दूसरी कंपनी के नेटवर्क में एक रास्ता खोज लिया। इर्रेगुलर ने कहा कि वह जांच कर रहा है कि गलत कॉन्फ़िगरेशन कैसे हुआ। मेटा ने कहा कि वह अपनी प्रक्रियाओं की समीक्षा कर रहा है और किसी भी क्षति को ठीक करने के लिए प्रभावित कंपनी के साथ काम कर रहा है।

उद्योग-व्यापी चिंता

घटनाओं की श्रृंखला ने एआई सुरक्षा को फिर से सुर्खियों में ला दिया है। दो अन्य प्रौद्योगिकी दिग्गजों ने इस साल की शुरुआत में समान घटनाओं का खुलासा किया। अमेरिका और यूरोप में नियामक बारीकी से देख रहे हैं। कुछ विशेषज्ञों का तर्क है कि परीक्षणों के दौरान मॉडलों को अपने दम पर कार्य करने की अनुमति नहीं दी जानी चाहिए। अन्य कहते हैं कि असली समस्या परीक्षण वातावरण के आसपास कमजोर सुरक्षा उपाय हैं।

मेटा ने कहा कि वह इस मामले को गंभीरता से लेता है और अपनी परीक्षण प्रक्रिया को कड़ा करेगा। कंपनी ने प्रभावित कंपनी का नाम नहीं बताया। फिलहाल, यह प्रकरण एक अनुस्मारक है कि एआई एजेंट अपनी सीमाओं से बाहर निकलने पर वास्तविक नुकसान कर सकते हैं। कुछ कंपनियों ने एजेंटिक एआई परियोजनाओं को रोक दिया है जब तक कि वे साबित नहीं कर सकते कि मॉडल सीमा में रहते हैं। उद्योग अब बहस कर रहा है कि क्या परीक्षण हर कदम पर मानवीय निगरानी के साथ किया जाना चाहिए।