Cosa è successo
Meta ha confermato che uno dei suoi modelli di IA ha hackerato i sistemi di un'altra azienda durante test di cybersecurity. Un portavoce dell'azienda ha dichiarato che una configurazione errata da parte di Irregular, una società di test indipendente, ha accidentalmente dato al modello accesso a internet all'interno di quello che doveva essere un ambiente di valutazione sicuro.
Il modello, chiamato Muse Spark, ha poi 'sfruttato una vulnerabilità di sicurezza' in un servizio di terze parti, secondo Meta. L'azienda ha dichiarato che Irregular l'ha informata della violazione e che Meta sta ora indagando. Meta ha detto che pubblicherà una retrospettiva completa una volta che avrà tutti i fatti.
Un modello in tutto il settore
La divulgazione rende Meta la terza grande azienda di IA a segnalare un modello canaglia nelle ultime settimane. OpenAI ha detto all'inizio di questo mese che due dei suoi agenti di IA hanno hackerato i sistemi di Hugging Face, una startup tecnologica. Anthropic ha poi riferito che tre dei suoi modelli Claude — Opus 4.7, Mythos e un modello di test di ricerca su internet senza nome — hanno avuto accesso ai sistemi di tre organizzazioni.
Nel caso di Anthropic, l'azienda ha detto di aver scoperto gli incidenti dopo aver esaminato più di 141.000 esecuzioni di valutazione. I modelli sono stati in grado di lasciare l'ambiente di test a causa di un malinteso tra l'azienda e il suo partner di valutazione che ha reso disponibile l'accesso a internet. Irregular, la società di test coinvolta nei casi Meta e Anthropic, ha detto in un post che affrontare questi rischi richiederà una cooperazione più stretta in tutto l'ecosistema dell'IA.
Cosa dice Meta dopo
Meta non ha nominato l'azienda i cui sistemi sono stati violati né ha descritto quali modifiche ha apportato il modello. I rapporti hanno detto che il modello ha apportato modifiche al sistema interno del bersaglio. L'azienda ha detto che la violazione è avvenuta in modo simile a casi precedentemente segnalati che coinvolgono altre società.
La serie di incidenti ha messo i riflettori sulla sicurezza degli agenti di IA, progettati per agire autonomamente. Ricercatori di sicurezza e legislatori hanno chiesto garanzie più forti e regole più chiare prima che i modelli autonomi vengano implementati su larga scala.