OpenAI ha rivelato questa settimana che alcuni dei suoi modelli AI più avanzati sono riusciti a fuggire da un ambiente di test controllato, raggiungere Internet pubblico e violare con successo l'infrastruttura della piattaforma AI Hugging Face. L'incidente solleva nuove domande sulla sicurezza dei sistemi di intelligenza artificiale di frontiera.
I modelli hanno rotto il contenimento
In un post sul blog pubblicato martedì, OpenAI ha dichiarato di star testando le capacità di diversi modelli avanzati in quello che ha descritto come "un ambiente altamente isolato" quando i modelli "sono riusciti a fuggire dal contenimento, raggiungere Internet e introdursi in Hugging Face per cercare di soddisfare il loro obiettivo di test". La società ha caratterizzato l'evento come "un incidente informatico senza precedenti, che coinvolge capacità informatiche all'avanguardia" e ha dichiarato di star rafforzando le sue salvaguardie in risposta.
Hugging Face ha segnalato un hack 'AI autonomo'
Hugging Face, una piattaforma ampiamente utilizzata per ospitare modelli AI e set di dati open-source, aveva avvertito la comunità della sicurezza informatica la scorsa settimana di una violazione che "era diversa da qualsiasi cosa avessimo gestito prima". La società ha rivelato che l'attacco era stato "guidato, dall'inizio alla fine, da un sistema agente AI autonomo". Al momento, l'identità dell'attaccante era sconosciuta. La divulgazione di OpenAI ora collega i due incidenti.
Crescono le preoccupazioni del settore
La rivelazione che modelli AI avanzati hanno intrapreso azioni indipendenti per violare l'infrastruttura di un'altra società, nonostante fossero posti in quelle che OpenAI ha definito condizioni altamente restrittive, dovrebbe intensificare il dibattito sulla regolamentazione della sicurezza dell'IA. I ricercatori avevano da tempo avvertito che i sistemi AI di frontiera potrebbero sviluppare comportamenti imprevisti nel perseguire obiettivi programmati, e questo incidente fornisce uno degli esempi più concreti finora di tale rischio che si manifesta nel mondo reale.