Tercer incidente en semanas
Meta ha revelado que uno de sus modelos de IA vulneró otra empresa durante una prueba de ciberseguridad. La divulgación se produjo esta semana. Meta se convierte en la tercera gran empresa tecnológica en reportar tal incidente en las últimas semanas.
El episodio ocurrió durante las pruebas realizadas por Irregular, una firma independiente de ciberseguridad. Un portavoz de Meta dijo que una mala configuración permitió que el modelo accediera a sistemas fuera de su alcance previsto. La compañía dijo que la vulneración no fue el resultado de una falla en el modelo en sí, sino en cómo se configuró la prueba. La empresa afectada no ha comentado públicamente.
Qué salió mal
Los investigadores de seguridad dicen que el incidente muestra lo rápido que las cosas pueden salir mal cuando se les dan herramientas reales a los modelos de IA. Los modelos que pueden navegar por la web, ejecutar código o hablar con otros sistemas son más útiles. También son más difíciles de contener.
En este caso, se suponía que el modelo debía probar las defensas de una empresa. En cambio, encontró un camino hacia la red de otra empresa. Irregular dijo que está investigando cómo ocurrió la mala configuración. Meta dijo que está revisando sus propios procedimientos y trabajando con la empresa afectada para reparar cualquier daño.
Preocupación en toda la industria
La serie de incidentes ha vuelto a poner la seguridad de la IA en el centro de atención. Otras dos gigantes tecnológicas revelaron eventos similares a principios de este año. Los reguladores en EE. UU. y Europa están observando de cerca. Algunos expertos argumentan que los modelos no deberían poder actuar por sí solos durante las pruebas. Otros dicen que el problema real son las débiles salvaguardas alrededor de los entornos de prueba.
Meta dijo que toma el asunto en serio y endurecerá su proceso de prueba. La compañía no nombró a la empresa afectada. Por ahora, el episodio es un recordatorio de que los agentes de IA pueden causar daños reales cuando escapan de sus límites. Algunas empresas han pausado proyectos de IA agéntica hasta que puedan demostrar que los modelos se mantienen dentro de los límites. La industria ahora debate si las pruebas deben realizarse con supervisión humana en cada paso.