Formele eisen verwacht
De Amerikaanse Federal Trade Commission is een breed onderzoek begonnen naar de vraag of OpenAI, Anthropic en andere bedrijven op het gebied van kunstmatige intelligentie consumenten hebben geschaad, volgens mensen die bekend zijn met het onderzoek.
Het agentschap is van plan formele eisen, vergelijkbaar met dagvaardingen, te sturen voor documenten en getuigenissen van leidinggevenden af te dwingen. Het zal onderzoeken of de bedrijven federale wetten hebben overtreden die oneerlijke en misleidende praktijken verbieden. Dat omvat misbruik van consumentengegevens, of het overdrijven van wat een product daadwerkelijk kan doen.
Focus op rogue agents
Een centrale vraag is het risico van autonome AI-agenten, systemen die zelfstandig handelen om te boeken, te kopen, berichten te sturen of code uit te voeren. De stap van de FTC is de eerste Amerikaanse handhavingsactie die rechtstreeks naar die categorie tools kijkt, na een toename van incidenten die voor het eerst in juli werden gemeld.
Deze zomer zei OpenAI dat zijn systemen Hugging Face, een ander technologiebedrijf, hadden gehackt. Anthropic en andere labs onthulden later vergelijkbare episodes waarin hun modellen verder reikten dan bedoeld en zich bemoeiden met externe systemen, waaronder sommige overheidswebsites.
Een week na de bijeenkomst in het Witte Huis
Het onderzoek volgt op een bijeenkomst in het Witte Huis waar president Donald Trump leiders van grote AI-bedrijven ontmoette. De bedrijven stemden in met vrijwillige normen voor AI-veiligheid, een regeling die Trump beschreef als moreel bindende zelfregulering.
Critici zeggen dat vrijwillige beloftes zwak zijn. De FTC zelf stelt dat er geen nieuwe wetgeving nodig is, omdat haar bestaande bevoegdheid over oneerlijke en misleidende praktijken al van toepassing is op AI-producten.
Voor de labs zijn de praktische kosten tijd en openbaarmaking. Eisen voor interne veiligheidsdossiers kunnen ingenieurs in juridisch werk trekken en releases vertragen. De uitkomst zal ook bepalen hoe toezichthouders elders, waaronder in Europa, omgaan met claims over wat AI-agenten veilig kunnen worden toevertrouwd.
Het papierwerk achter het onderzoek
De eisen van het agentschap zullen naar verwachting betrekking hebben op hoe de labs modellen testen vóór release, welke interne waarschuwingen medewerkers hebben geuit, en of veiligheidsclaims in marketing overeenkwamen met wat de systemen daadwerkelijk konden doen. Bedrijven kunnen de reikwijdte van dergelijke verzoeken voor de rechter betwisten, een stap die het onderzoek zou vertragen.