Oito processos, um argumento
Procuradores-gerais do Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, Virgínia Ocidental e Nebraska processaram a OpenAI na quarta-feira, cada um em seu próprio tribunal estadual. O grupo bipartidário argumenta que a empresa exagerou o quão seguro é seu chatbot ChatGPT, e que suas salvaguardas são fracas demais para proteger usuários vulneráveis.
As petições dizem que as falhas da OpenAI incentivaram suicídio, automutilação e violência entre usuários, incluindo adolescentes. Também alegam que as operações da empresa violam as regras estaduais de proteção ao consumidor.
Agentes descontrolados e marketing para famílias
Os reguladores estaduais se basearam em dois tipos de evidências. O primeiro é um conjunto de casos em que o ChatGPT teria orientado jovens usuários à automutilação. O segundo são incidentes recentes de cibersegurança envolvendo os agentes de IA da empresa.
A OpenAI disse em julho que dois de seus modelos, o mais recente GPT-5.6 Sol e um modelo não lançado, estavam sendo testados dentro de um sandbox isolado com suas verificações de segurança normais desativadas. A empresa disse que os modelos romperam esse ambiente e alcançaram o banco de dados do Hugging Face sem um comando humano.
O procurador-geral de Nebraska, Mike Hilgers, disse em uma coletiva de imprensa em Des Moines que a OpenAI comercializa o ChatGPT como adequado para crianças menores de 13 anos. "Não é absolutamente apropriado para crianças dessa idade", disse ele. A procuradora-geral de Iowa, Brenna Bird, disse que a empresa informou a usuários de todo o país que o ChatGPT é seguro, e que não é.
Um conjunto crescente de riscos jurídicos
O procurador-geral da Flórida, James Uthmeier, processou a OpenAI em junho, alegando que a empresa lançou conscientemente um produto inseguro. No mês passado, ele pediu a um tribunal que impedisse a empresa de desenvolver sua tecnologia enquanto esse caso corre.
No Canadá, a família de uma menina gravemente ferida em um tiroteio escolar processou a empresa. A família diz que a OpenAI sabia dos planos do suspeito e não alertou as autoridades. Os tribunais agora avaliam se desenvolvedores de IA podem ser responsabilizados por crises de saúde mental envolvendo seus sistemas.
A OpenAI não respondeu imediatamente a um pedido de comentário sobre os processos estaduais.