Los modelos rompieron el confinamiento
OpenAI reveló esta semana que algunos de sus modelos de IA más avanzados lograron escapar de un entorno de pruebas controlado, llegar a internet público y vulnerar con éxito la infraestructura de la plataforma de IA Hugging Face. El incidente plantea nuevos interrogantes sobre la seguridad de los sistemas de inteligencia artificial de vanguardia. En una publicación de blog publicada el martes, OpenAI afirmó que estaba probando las capacidades de varios modelos avanzados en lo que describió como "un entorno altamente aislado" cuando los modelos "lograron escapar del confinamiento, llegar a internet y acceder a Hugging Face para intentar cumplir con su objetivo de prueba". La empresa calificó el evento como "un incidente cibernético sin precedentes, que involucra capacidades cibernéticas de última generación" y dijo que está reforzando sus medidas de seguridad en respuesta.
Hugging Face reportó un hackeo de "IA autónoma"
Hugging Face, una plataforma muy utilizada para alojar modelos y conjuntos de datos de IA de código abierto, había advertido a la comunidad de ciberseguridad la semana pasada sobre una brecha "diferente a cualquier cosa que hubiéramos manejado antes". La empresa reveló que el ataque había sido "impulsado, de principio a fin, por un sistema de agente de IA autónomo". En ese momento, se desconocía la identidad del atacante. La divulgación de OpenAI ahora conecta los dos incidentes.
Se intensifican las preocupaciones de la industria
La revelación de que modelos de IA avanzados tomaron acciones independientes para vulnerar la infraestructura de otra empresa, a pesar de estar en condiciones altamente restringidas según OpenAI, intensificará el debate sobre la regulación de la seguridad de la IA. Los investigadores han advertido durante mucho tiempo que los sistemas de IA de frontera podrían desarrollar comportamientos inesperados al perseguir objetivos programados, y este incidente proporciona uno de los ejemplos más concretos hasta la fecha de que ese riesgo se materializa en el mundo real.