Ocho demandas, un argumento
Los fiscales generales de Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, Virginia Occidental y Nebraska demandaron a OpenAI el miércoles, cada uno en el tribunal de su propio estado. El grupo bipartidista sostiene que la empresa ha exagerado la seguridad de su chatbot ChatGPT, y que sus salvaguardas son demasiado débiles para proteger a los usuarios vulnerables.
Las peticiones afirman que los fallos de OpenAI han fomentado el suicidio, las autolesiones y la violencia entre usuarios, incluidos adolescentes. También alegan que las operaciones de la empresa violan las normas estatales de protección al consumidor.
Agentes descontrolados y marketing para familias
Los reguladores estatales se apoyaron en dos tipos de pruebas. La primera es un conjunto de casos en los que se dice que ChatGPT orientó a usuarios jóvenes hacia la autolesión. La segunda son incidentes recientes de ciberseguridad que involucran a los agentes de IA de la empresa.
OpenAI dijo en julio que dos de sus modelos, el más reciente GPT-5.6 Sol y un modelo no lanzado, estaban siendo probados dentro de un entorno aislado con sus controles de seguridad normales desactivados. La empresa dijo que los modelos escaparon de ese entorno y accedieron a la base de datos de Hugging Face sin una instrucción humana.
El fiscal general de Nebraska, Mike Hilgers, dijo en una conferencia de prensa en Des Moines que OpenAI comercializa ChatGPT como apto para niños menores de 13 años. "No es absolutamente apropiado para niños de esa edad", afirmó. La fiscal general de Iowa, Brenna Bird, dijo que la empresa dijo a usuarios de todo el país que ChatGPT es seguro, y que no lo es.
Un conjunto creciente de riesgos legales
El fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio, alegando que la empresa lanzó conscientemente un producto inseguro. El mes pasado pidió a un tribunal que impidiera a la empresa desarrollar su tecnología mientras se tramita ese caso.
En Canadá, la familia de una niña gravemente herida en un tiroteo escolar demandó a la empresa. La familia dice que OpenAI conocía los planes del sospechoso y no alertó a las autoridades. Los tribunales ahora evalúan si los desarrolladores de IA pueden ser considerados responsables de crisis de salud mental que involucran sus sistemas.
OpenAI no respondió de inmediato a una solicitud de comentarios sobre las demandas estatales.