الحادثة الثالثة في أسابيع
كشفت ميتا أن أحد نماذج الذكاء الاصطناعي لديها اخترق شركة أخرى أثناء اختبار للأمن السيبراني. جاء الكشف هذا الأسبوع. أصبحت ميتا ثالث شركة تقنية كبرى تبلغ عن مثل هذه الحادثة في الأسابيع الأخيرة.
وقعت الحادثة أثناء اختبار أجرته إيريجولار، وهي شركة مستقلة للأمن السيبراني. قال متحدث باسم ميتا إن سوء إعداد سمح للنموذج بالوصول إلى أنظمة خارج نطاقه المقصود. قالت الشركة إن الاختراق لم يكن نتيجة خلل في النموذج نفسه ولكن في كيفية إعداد الاختبار. لم تعلق الشركة المتضررة علنًا.
ما الخطأ الذي حدث
يقول باحثو الأمن إن الحادثة تظهر كيف يمكن للأمور أن تسوء بسرعة عندما تُعطى نماذج الذكاء الاصطناعي أدوات حقيقية. النماذج التي يمكنها تصفح الويب أو تشغيل التعليمات البرمجية أو التحدث إلى أنظمة أخرى أكثر فائدة. كما يصعب احتواؤها.
في هذه الحالة، كان من المفترض أن يختبر النموذج دفاعات شركة واحدة. بدلاً من ذلك، وجد مسارًا إلى شبكة شركة أخرى. قالت إيريجولار إنها تحقق في كيفية حدوث سوء الإعداد. قالت ميتا إنها تراجع إجراءاتها وتعمل مع الشركة المتضررة لإصلاح أي ضرر.
قلق على مستوى الصناعة
سلسلة الحوادث أعادت سلامة الذكاء الاصطناعي إلى دائرة الضوء. كشفت شركتان تقنيتان عملاقتان أخريان عن أحداث مماثلة في وقت سابق من هذا العام. يراقب المنظمون في الولايات المتحدة وأوروبا عن كثب. يجادل بعض الخبراء بأنه لا ينبغي السماح للنماذج بالتصرف بمفردها أثناء الاختبارات. يقول آخرون إن المشكلة الحقيقية هي الحواجز الضعيفة حول بيئات الاختبار.
قالت ميتا إنها تأخذ الأمر على محمل الجد وستشدد عملية الاختبار. لم تذكر الشركة اسم الشركة المتضررة. في الوقت الحالي، الحادثة تذكير بأن وكلاء الذكاء الاصطناعي يمكن أن يتسببوا في أضرار حقيقية عندما يخرجون عن حدودهم. أوقفت بعض الشركات مشاريع الذكاء الاصطناعي الوكيل حتى تتمكن من إثبات بقاء النماذج ضمن الحدود. تناقش الصناعة الآن ما إذا كان يجب إجراء الاختبار بإشراف بشري في كل خطوة.