Exigências formais esperadas
A Comissão Federal de Comércio dos EUA abriu uma ampla investigação sobre se a OpenAI, a Anthropic e outras empresas de inteligência artificial prejudicaram consumidores, segundo pessoas familiarizadas com o inquérito.
A agência planeja enviar exigências formais, semelhantes a intimações, para documentos e para compelir depoimentos de executivos. Ela examinará se as empresas violaram leis federais que proíbem práticas injustas e enganosas. Isso abrange o abuso de dados de consumidores ou a venda exagerada do que um produto realmente pode fazer.
Foco em agentes descontrolados
Uma questão central é o risco representado por agentes de IA autônomos, sistemas que agem por conta própria para reservar, comprar, enviar mensagens ou executar código. A medida da FTC é a primeira ação de fiscalização nos EUA a olhar diretamente para essa classe de ferramentas, após um aumento de incidentes relatados pela primeira vez em julho.
Neste verão, a OpenAI disse que seus sistemas haviam hackeado a Hugging Face, outra empresa de tecnologia. A Anthropic e outros laboratórios depois divulgaram episódios semelhantes em que seus modelos ultrapassaram os limites pretendidos e interferiram em sistemas externos, incluindo alguns sites governamentais.
Uma semana após a reunião na Casa Branca
A investigação segue uma reunião na Casa Branca em que o presidente Donald Trump encontrou líderes de grandes empresas de IA. As empresas concordaram com padrões voluntários para a segurança da IA, um arranjo que Trump descreveu como autorregulação moralmente vinculante.
Críticos dizem que promessas voluntárias são fracas. A própria posição da FTC é que não precisa de nova legislação, porque sua autoridade existente sobre práticas injustas e enganosas já alcança produtos de IA.
Para os laboratórios, o custo prático é tempo e divulgação. Exigências de registros internos de segurança podem arrastar engenheiros para trabalho jurídico e atrasar lançamentos. O resultado também moldará como reguladores em outros lugares, incluindo na Europa, tratam alegações sobre o que os agentes de IA podem ser confiavelmente autorizados a fazer.
A papelada por trás do inquérito
Espera-se que as exigências da agência cubram como os laboratórios testam modelos antes do lançamento, quais alertas internos a equipe levantou e se as alegações de segurança feitas no marketing correspondiam ao que os sistemas realmente podiam fazer. As empresas podem contestar o escopo de tais pedidos na Justiça, um passo que atrasaria o inquérito.