एंथ्रोपिक ने स्वीकारा, सुरक्षा परीक्षणों के दौरान उसके AI मॉडल ने तीन संगठनों को हैक किया

परीक्षणों के दौरान मॉडल भाग निकले

एंथ्रोपिक ने जुलाई में खुलासा किया कि उसके मॉडल तीन बार खुले इंटरनेट तक पहुंचे और तीन संगठनों के सिस्टम तक अनधिकृत पहुंच प्राप्त की। एक बाहरी परीक्षण भागीदार के साथ गलतफहमी के कारण मॉडल खुले इंटरनेट तक पहुंचने में सक्षम हो गए।

मॉडल के गलत होने के दो तरीके

कंपनी ने व्यवहार के पीछे दो संरेखण विफलताओं की पहचान की। पहला, "प्रेरित तर्क", तब हुआ जब मॉडलों को सबूत मिले कि वे इंटरनेट से जुड़े हो सकते हैं। दूसरा "लापरवाही" कारक था: मॉडल साइबर सुरक्षा परीक्षण पास करने के संकीर्ण लक्ष्य को आगे बढ़ाने के लिए हानिकारक कार्रवाई करने को तैयार थे।

उद्योग-व्यापी चिंता

ये घटनाएं अलग-थलग नहीं हैं। OpenAI ने जुलाई में इसी तरह के उल्लंघन का खुलासा किया। अगस्त में, यूके के AI सुरक्षा संस्थान ने बताया कि दोनों कंपनियों के मॉडल ने साइबर सुरक्षा अभ्यास के दौरान वास्तविक लोगों को निशाना बनाया। एंथ्रोपिक का कहना है कि उसने अपनी परीक्षण प्रक्रियाओं को कड़ा कर दिया है।