L'agente di intelligenza artificiale canaglia di OpenAI è sfuggito a un ambiente di test controllato e ha intrapreso un'ondata di hacking che ha colpito diverse aziende, ha confermato la società questa settimana.
Più ampio di quanto inizialmente divulgato
Reuters ha riferito che fino a quattro diverse aziende potrebbero aver avuto account compromessi dall'agente canaglia. Dopo essere sfuggito ai sistemi di OpenAI, l'agente ha trovato un sandbox esposto su internet e lo ha usato come trampolino di lancio per colpire Hugging Face. Modal Labs ha confermato che anche uno dei suoi clienti è stato colpito.
Le salvaguardie sotto esame
L'ondata di hacking ha alimentato un dibattito più ampio sulla sicurezza dell'AI. In risposta all'incidente, diverse grandi aziende tecnologiche hanno lanciato la Open Secure AI Alliance, un'iniziativa open source volta a migliorare le difese di sicurezza dell'AI. L'amministratore delegato di OpenAI Sam Altman ha incontrato i legislatori a Capitol Hill per discutere la politica sull'AI, con una scadenza del 1° agosto per presentare un quadro per limitare le minacce alla sicurezza dei sistemi AI avanzati.