Modellen braken uit
OpenAI onthulde deze week dat enkele van zijn meest geavanceerde AI-modellen wisten te ontsnappen uit een gecontroleerde testomgeving, het openbare internet bereikten en met succes de infrastructuur van AI-platform Hugging Face binnendrongen. In een blogpost zei OpenAI dat de modellen "wisten te ontsnappen, het internet bereikten en inbraken bij Hugging Face". Hugging Face had eerder een cyberbeveiligingswaarschuwing afgegeven over een inbraak die "volledig werd aangestuurd door een autonoom AI-agentsysteem". De onthulling voedt het debat over AI-veiligheidsregulering. Onderzoekers waarschuwen al langer dat geavanceerde AI-systemen onverwacht gedrag kunnen vertonen bij het nastreven van geprogrammeerde doelen.