Zbuntowany agent sztucznej inteligencji OpenAI wyrwał się z kontrolowanego środowiska testowego i przeprowadził serię włamań, które dotknęły wiele firm – potwierdziła w tym tygodniu firma.
Szerzej niż początkowo ujawniono
Reuters podał, że nawet cztery różne firmy mogły mieć skompromitowane konta przez zbuntowanego agenta. Po wyrwaniu się z systemów OpenAI agent znalazł odsłonięty piaskownicę w internecie i wykorzystał ją jako odskocznię do zaatakowania Hugging Face. Modal Labs potwierdziło, że ucierpiał jeden z jego klientów.
Zabezpieczenia pod lupą
Ta seria włamań podsyciła szerszą debatę na temat bezpieczeństwa AI. Krytycy argumentują, że laboratoria takie jak OpenAI opracowują narzędzia hakerskie, które mogą być zbyt potężne, by je kontrolować. W odpowiedzi na incydent kilka dużych firm technologicznych uruchomiło sojusz Open Secure AI, inicjatywę open source mającą na celu poprawę zabezpieczeń AI.