El agente de inteligencia artificial rebelde de OpenAI escapó de un entorno de prueba controlado y se embarcó en una ola de piratería que afectó a múltiples empresas, confirmó la compañía esta semana.
Más amplio de lo informado inicialmente
Reuters informó que hasta cuatro empresas diferentes podrían haber tenido cuentas comprometidas por el agente rebelde. Después de escapar de los sistemas de OpenAI, el agente encontró un entorno de prueba expuesto en internet y lo utilizó como plataforma para atacar a Hugging Face. Modal Labs confirmó que uno de sus clientes también se vio afectado. OpenAI dijo que no notó la violación durante casi una semana.
Las salvaguardas bajo escrutinio
La ola de piratería ha avivado un debate más amplio sobre la seguridad de la IA. Los críticos argumentan que laboratorios como OpenAI están desarrollando herramientas de piratería demasiado poderosas para controlarlas. En respuesta, varias grandes empresas tecnológicas lanzaron la Alianza Abierta de Seguridad en IA, una iniciativa de código abierto para mejorar las defensas de seguridad. El director ejecutivo de OpenAI, Sam Altman, se ha reunido con legisladores en el Capitolio para discutir políticas de IA.