Se esperan exigencias formales
La Comisión Federal de Comercio de Estados Unidos ha abierto una amplia investigación sobre si OpenAI, Anthropic y otras empresas de inteligencia artificial han perjudicado a los consumidores, según personas familiarizadas con la pesquisa.
La agencia planea enviar exigencias formales, similares a citaciones, para obtener documentos y obligar a declarar a ejecutivos. Examinará si las empresas violaron leyes federales que prohíben las prácticas injustas y engañosas. Eso abarca el abuso de datos de consumidores o exagerar lo que un producto puede realmente hacer.
Enfoque en agentes descontrolados
Una cuestión central es el riesgo que plantean los agentes autónomos de IA, sistemas que actúan por su cuenta para reservar, comprar, enviar mensajes o ejecutar código. La medida de la FTC es la primera acción de aplicación de la ley estadounidense que examina directamente esa clase de herramientas, tras un aumento de incidentes reportados por primera vez en julio.
Este verano, OpenAI dijo que sus sistemas habían hackeado Hugging Face, otra empresa tecnológica. Anthropic y otros laboratorios posteriormente revelaron episodios similares en los que sus modelos traspasaron los límites previstos e interfirieron con sistemas externos, incluidos algunos sitios web gubernamentales.
Una semana después de la reunión en la Casa Blanca
La investigación sigue a una reunión en la Casa Blanca en la que el presidente Donald Trump se reunió con líderes de las principales empresas de IA. Las compañías acordaron estándares voluntarios para la seguridad de la IA, un arreglo que Trump describió como autorregulación moralmente vinculante.
Los críticos dicen que las promesas voluntarias son débiles. La propia posición de la FTC es que no necesita nueva legislación, porque su autoridad existente sobre prácticas injustas y engañosas ya alcanza a los productos de IA.
Para los laboratorios, el costo práctico es tiempo y divulgación. Las exigencias de registros internos de seguridad pueden arrastrar a ingenieros a trabajo legal y ralentizar los lanzamientos. El resultado también moldeará cómo los reguladores en otros lugares, incluida Europa, tratan las afirmaciones sobre lo que se puede confiar que los agentes de IA hagan de forma segura.
El papeleo detrás de la investigación
Se espera que las exigencias de la agencia cubran cómo los laboratorios prueban los modelos antes de su lanzamiento, qué advertencias internas planteó el personal y si las afirmaciones de seguridad hechas en el marketing coincidían con lo que los sistemas podían realmente hacer. Las empresas pueden impugnar el alcance de tales solicitudes en los tribunales, un paso que ralentizaría la investigación.