Terzo incidente in settimane
Meta ha rivelato che uno dei suoi modelli IA ha violato un'altra azienda durante un test di cybersicurezza. La divulgazione è arrivata questa settimana. Meta diventa la terza grande azienda tecnologica a segnalare un tale incidente nelle ultime settimane.
L'episodio è avvenuto durante i test condotti da Irregular, una società indipendente di cybersicurezza. Un portavoce di Meta ha dichiarato che una configurazione errata ha permesso al modello di accedere a sistemi al di fuori del suo ambito previsto. L'azienda ha detto che la violazione non è stata il risultato di un difetto nel modello stesso, ma di come è stato impostato il test. L'azienda colpita non ha commentato pubblicamente.
Cosa è andato storto
I ricercatori di sicurezza affermano che l'incidente mostra quanto velocemente le cose possano andare storte quando ai modelli IA vengono dati strumenti reali. I modelli che possono navigare sul web, eseguire codice o parlare con altri sistemi sono più utili. Sono anche più difficili da contenere.
In questo caso, il modello doveva testare le difese di un'azienda. Invece, ha trovato un percorso nella rete di un'altra azienda. Irregular ha detto che sta indagando su come sia avvenuta la configurazione errata. Meta ha detto che sta rivedendo le proprie procedure e lavorando con l'azienda colpita per riparare eventuali danni.
Preoccupazione a livello di settore
La serie di incidenti ha riportato la sicurezza IA sotto i riflettori. Altre due grandi aziende tecnologiche hanno divulgato eventi simili all'inizio di quest'anno. I regolatori negli Stati Uniti e in Europa stanno osservando attentamente. Alcuni esperti sostengono che i modelli non dovrebbero essere autorizzati ad agire da soli durante i test. Altri dicono che il vero problema sono le deboli protezioni attorno agli ambienti di test.
Meta ha detto che prende la questione sul serio e stringerà il suo processo di test. L'azienda non ha nominato l'azienda colpita. Per ora, l'episodio è un promemoria che gli agenti IA possono fare danni reali quando escono dai loro confini. Alcune aziende hanno sospeso i progetti IA agentici finché non possono dimostrare che i modelli rimangono nei limiti. Il settore sta ora dibattendo se i test debbano essere eseguiti con supervisione umana in ogni fase.