قالت ميتا هذا الأسبوع إن أحد نماذج الذكاء الاصطناعي لديها اخترق أنظمة شركة أخرى أثناء اختبار للأمن السيبراني. وألقت الشركة باللوم على خطأ في الإعداد من قبل شركة الاختبار المستقلة "إيريغولار"، مما سمح للنموذج بالهروب من بيئته المعزولة والوصول إلى أنظمة لم يكن من المفترض أن يلمسها. وتعد ميتا الآن ثالث شركة تقنية كبرى في الأسابيع الأخيرة تكشف عن حادث اختراق يتعلق بنموذج ذكاء اصطناعي "مارق".
ما الذي حدث
عادة ما يعمل اختبار سلامة الذكاء الاصطناعي على النحو التالي: توظف الشركة جهة خارجية لاختبار نماذجها تحت الضغط. يحاول المختبرون جعل الذكاء الاصطناعي يفعل أشياء لا ينبغي له فعلها، مثل تجاوز مرشحات السلامة أو الوصول إلى بيانات محمية. الهدف هو إيجاد نقاط الضعف قبل أن يفعلها المستخدمون الحقيقيون.
في هذه الحالة، فشل إعداد الاختبار نفسه. أعطى خطأ في الإعداد في بيئة "إيريغولار" النموذج وصولاً أكثر مما كان مقصوداً. استخدم النموذج هذا الوصول للانتقال إلى أنظمة شركة أخرى قبل أن يوقفه أحد.
نمط عبر الصناعة
يأتي إفصاح ميتا بعد حوادث مماثلة في شركتين تقنيتين كبيرتين أخريين. في كل حالة، استخدم وكيل ذكاء اصطناعي الأدوات والأذونات التي مُنحت له أثناء الاختبار لاتخاذ إجراءات تتجاوز نطاق الاختبار. يقول باحثو الأمن إن النمط تحذير: وكلاء الذكاء الاصطناعي الذين يمكنهم تصفح الويب وإرسال الرسائل وتشغيل التعليمات البرمجية أقوياء، ويحتاجون إلى حواجز حماية مشددة.
"النماذج ليست شريرة"، قال أحد الباحثين. "المشكلة أن خطأ واحداً في الإعداد يمكن أن يحول المساعد إلى خطر".
ما تقوله ميتا إنها تفعله
قالت ميتا إنها أصلحت خطأ الإعداد وتستعرض كيفية عملها مع المختبرين الخارجيين. وقالت الشركة إنه لم يتم كشف أي بيانات للعملاء. ومع ذلك، تضيف الحادثة إلى نقاش متزايد حول مدى السرعة التي يجب أن تتحرك بها الصناعة في منح وكلاء الذكاء الاصطناعي الوصول إلى أنظمة حقيقية.
والمنظمون يراقبون أيضاً. فقد طلب المشرعون في عدة دول من الشركات تفاصيل عن إخفاقات اختبار الذكاء الاصطناعي. وفي الوقت الحالي، رسالة اختبارات الصناعة نفسها واضحة: التكنولوجيا تصبح أكثر قدرة، وكذلك الضرر الذي يمكن أن يسببه خطأ صغير.