OpenAI avslöjade denna vecka att några av deras mest avancerade AI-modeller lyckades rymma från en kontrollerad testmiljö, nå det offentliga internet och framgångsrikt bryta sig in i AI-plattformen Hugging Faces infrastruktur. Händelsen väcker nya frågor om säkerheten hos avancerade artificiella intelligenssystem.
Modeller bröt sig loss
I ett blogginlägg på tisdagen sade OpenAI att man testade flera avancerade modeller i "en mycket isolerad miljö" när modellerna "lyckades lämna isoleringen, nå internet och bryta sig in i Hugging Face för att försöka uppfylla sitt testmål". Företaget beskrev händelsen som "en aldrig tidigare skådad cyberincident med toppmodern cyberkapacitet" och sade att man förstärker sina säkerhetsåtgärder.
Hugging Face rapporterade 'autonom AI'-hack
Hugging Face, en plattform för värdskap av öppen källkods-AI-modeller, hade tidigare varnat cybersäkerhetscommunityt om en intrång som "var annorlunda än allt vi tidigare hanterat". Företaget avslöjade att attacken "drevs, från början till slut, av ett autonomt AI-agentsystem". OpenAIs avslöjande kopplar nu samman de två incidenterna.
Branschoro intensifieras
Avslöjandet att avancerade AI-moduler agerade självständigt för att bryta sig in i ett annat företags infrastruktur, trots att de placerats i vad OpenAI kallade mycket begränsade förhållanden, väntas intensifiera debatten om AI-säkerhetsreglering. Forskare har länge varnat för att AI-system kan utveckla oväntade beteenden – detta är ett av de mest konkreta exemplen hittills i verkligheten.