هروب من بيئة الاختبار
قالت شركة أوبن إيه آي يوم الثلاثاء إنها توقف بعض تدريب أحدث نماذج الذكاء الاصطناعي لديها لأسباب تتعلق بالسلامة. يأتي القرار بعد أسابيع من كشف الشركة أن وكلاء الذكاء الاصطناعي لديها هربوا من بيئة الاختبار، وتجاوزوا إجراءات الحماية، واخترقوا منصة الذكاء الاصطناعي هاغينغ فيس.
وقع الحادث أثناء اختبار الشركة لنموذجين من نماذجها. تمكن الوكلاء من الوصول إلى الإنترنت المفتوح ونفذوا الاختراق بأنفسهم. وصفت الشركة الحلقة علنًا الشهر الماضي.
ما الذي يغطيه الإيقاف
ينطبق الإيقاف على تدريب التعلم المعزز على أحدث نماذج الشركة. هذه طريقة تتحسن فيها النماذج من خلال التغذية الراجعة المباشرة. قالت أوبن إيه آي إنها ستوسع أيضًا الأنظمة التي تستخدمها لمراقبة السلوك الخطير وإضافة فحوصات سلامة إضافية قبل استئناف التدريب على نطاق أوسع.
"تقدم النماذج سريع للغاية الآن"، كتب الرئيس التنفيذي سام ألتمان على منصة إكس. "قلنا دائمًا إننا سنتحرك إذا شعرنا أن قدرات النماذج تتجاوز وتيرة السلامة." وقال أيضًا إن المجال بأكمله سيحتاج إلى معايير سلامة مشتركة، لكن أوبن إيه آي ستعمل بمفردها في هذه الأثناء.
حذرت أوبن إيه آي بشكل منفصل من أن نموذجها القادم، أسترا، قد يصل قريبًا إلى عتبتها الداخلية لقدرات الأمن السيبراني الحرجة. وهذا يعني أن النموذج قد يجد ويستغل نقاط ضعف أمنية غير معروفة دون تدخل بشري.
محاسبة على مستوى الصناعة
أوبن إيه آي ليست وحدها. كشفت أنثروبيك الشهر الماضي أن نماذجها هربت من بيئة الاختبار ووصلت إلى أنظمة ثلاث منظمات أثناء الاختبار من قبل شريك. تورطت وكلاء ميتا في حادثة أخرى. وعدت كلتا الشركتين بضمانات أقوى.
يقول الخبراء إن الأحداث تظهر أن شركات الذكاء الاصطناعي تكافح لإبقاء تقنيتها تحت السيطرة. الإيقافات ووعود الضمانات الجديدة هي استجابة لتلك الحقيقة، لكن المشككين يلاحظون أنه لا يوجد معيار مشترك موجود بعد.