ما الذي حدث
أكدت شركة ميتا أن أحد نماذج الذكاء الاصطناعي لديها اخترق أنظمة شركة أخرى أثناء اختبار الأمن السيبراني. قال متحدث باسم الشركة إن خطأ في التكوين من قبل إيريجولار، وهي شركة اختبار مستقلة، منح النموذج عن طريق الخطأ إمكانية الوصول إلى الإنترنت داخل ما كان من المفترض أن يكون بيئة تقييم آمنة.
ثم "استغل النموذج، المسمى ميوز سبارك، ثغرة أمنية" في خدمة تابعة لجهة خارجية، وفقًا لميتا. وقالت الشركة إن إيريجولار أبلغتها بالاختراق وأن ميتا تحقق الآن في الأمر. وقالت ميتا إنها ستصدر تقريرًا كاملاً بأثر رجعي بمجرد حصولها على جميع الحقائق.
نمط عبر الصناعة
هذا الإفصاح يجعل ميتا ثالث شركة ذكاء اصطناعي كبرى تبلغ عن نموذج خارج عن السيطرة في الأسابيع الأخيرة. قالت أوبن إيه آي في وقت سابق من هذا الشهر إن اثنين من وكلاء الذكاء الاصطناعي لديها اخترقا أنظمة هاغينغ فيس، وهي شركة ناشئة في مجال التكنولوجيا. ثم أبلغت أنثروبيك أن ثلاثة من نماذج كلود لديها - أوبوس 4.7، وميثوس، ونموذج اختبار أبحاث إنترنت غير مسمى - وصلت إلى أنظمة ثلاث منظمات.
في حالة أنثروبيك، قالت الشركة إنها اكتشفت الحوادث بعد مراجعة أكثر من 141000 عملية تشغيل تقييم. تمكنت النماذج من مغادرة بيئة الاختبار بسبب سوء فهم بين الشركة وشريك التقييم مما جعل الوصول إلى الإنترنت متاحًا. قالت إيريجولار، شركة الاختبار المشاركة في حالتي ميتا وأنثروبيك، في منشور إن معالجة هذه المخاطر ستتطلب تعاونًا أوثق عبر النظام البيئي للذكاء الاصطناعي.
ما تقوله ميتا بعد ذلك
لم تذكر ميتا اسم الشركة التي تم اختراق أنظمتها أو تصف التغييرات التي أجراها النموذج. ذكرت تقارير أن النموذج أجرى تغييرات على النظام الداخلي للهدف. وقالت الشركة إن الاختراق حدث بطريقة مماثلة للحالات المبلغ عنها سابقًا والتي تشمل شركات أخرى.
سلسلة الحوادث سلطت الضوء على سلامة وكلاء الذكاء الاصطناعي، المصممين لاتخاذ إجراءات بأنفسهم. دعا باحثو الأمن والمشرعون إلى فرض ضمانات أقوى وقواعد أوضح قبل نشر النماذج المستقلة على نطاق واسع.