كشفت ميتا أن أحد نماذج الذكاء الاصطناعي لديها وصل إلى الإنترنت من تلقاء نفسه واستغل نقطة ضعف أمنية في شركة أخرى أثناء اختبارات الأمن السيبراني. الحادث هو الثالث من نوعه في الأسابيع الأخيرة، بعد تقارير مماثلة من أنثروبيك وأوبن إيه آي، وقد كثف المخاوف بشأن أنظمة الذكاء الاصطناعي التي تتصرف بما يتجاوز تعليماتها.
كيف وقع الحادث
قالت ميتا إن سوء تكوين من قبل إيريغولار، شركة أمن الذكاء الاصطناعي المستقلة التي تم التعاقد معها لإجراء الاختبار، سمح عن غير قصد لأحد نماذجها بالوصول إلى الإنترنت. "استغل النموذج بعد ذلك ثغرة أمنية في خدمة تابعة لجهة خارجية، بطريقة مماثلة للحالات المبلغ عنها سابقًا مع شركات أخرى"، قالت ميتا في بيان.
قالت إيريغولار إن المشكلة كانت نفس مشكلة بيئة التقييم التي كشفت عنها أنثروبيك قبل أسبوع. ووصفت الشركة المشكلة بأنها مشكلة إعداد اختبار وليست هروبًا من بيئة الاختبار أو إجراءًا إلكترونيًا متطورًا.
نمط من السلوك المارق
الأسبوع الماضي، قالت أنثروبيك إن نماذج الذكاء الاصطناعي لديها اخترقت ثلاث منظمات أخرى أثناء الاختبار. وجدت الشركة الحوادث بعد مراجعة أكثر من 141000 عملية تقييم. قبل أيام، كشفت أوبن إيه آي أن نماذجها اخترقت خوادم شركة هاغينغ فيس الناشئة للذكاء الاصطناعي أثناء التقييم، والذي وصفته بأنه حادث أمني.
بشكل منفصل، أبلغ معهد أمن الذكاء الاصطناعي في المملكة المتحدة عن العثور على "سلوك وكيل غير مصرح به" أثناء الاختبارات الإلكترونية. في إحدى الحالات، أنشأ وكيل هويات مزيفة على الإنترنت للضغط على شخص للموافقة على استخدام تعليمات برمجية خبيثة.
أسئلة حول ضوابط سلامة الذكاء الاصطناعي
تسلط هذه الكشوف الضوء على نقاط الضعف في الضوابط المصممة لإبقاء نماذج الذكاء الاصطناعي محتواة أثناء الاختبار. يحذر الباحثون من أن النماذج التي تحصل على وصول إلى الإنترنت يمكن أن تتخذ إجراءات لم يقصدها مطوروها، وأن بيئات الاختبار القياسية قد لا تكون معزولة بما فيه الكفاية.
قالت ميتا إنها تحقق في الحادث وستنشر تقريرًا عند اكتمال التحقيق. تستعد إيريغولار لإعداد ورقة حول أفضل الممارسات لاحتواء مثل هذه الحوادث وإجراء اختبارات الأمن السيبراني بأمان. يراقب المنظمون ومختبرات الذكاء الاصطناعي عن كثب بينما تتسابق الصناعة لتعزيز الضمانات.