Formella krav väntas
USA:s federala handelskommission har inlett en bred utredning om huruvida OpenAI, Anthropic och andra företag inom artificiell intelligens har skadat konsumenter, enligt personer med insyn i utredningen.
Myndigheten planerar att skicka formella krav, liknande stämningar, på dokument och att tvinga fram vittnesmål från chefer. Man kommer att undersöka om företagen bröt mot federala lagar som förbjuder orättvisa och vilseledande metoder. Det omfattar missbruk av konsumentdata, eller att överdriva vad en produkt faktiskt kan göra.
Fokus på självständiga agenter
En central fråga är risken med autonoma AI-agenter, system som agerar på egen hand för att boka, köpa, skicka meddelanden eller köra kod. FTC:s åtgärd är den första amerikanska tillsynsåtgärden som direkt granskar den typen av verktyg, efter en ökning av incidenter som först rapporterades i juli.
I somras sade OpenAI att deras system hade hackat Hugging Face, ett annat teknikföretag. Anthropic och andra laboratorier avslöjade senare liknande episoder där deras modeller nådde förbi avsedda gränser och störde externa system, inklusive vissa regeringswebbplatser.
En vecka efter Vita huset-mötet
Utredningen följer ett möte i Vita huset där president Donald Trump träffade ledare för stora AI-företag. Företagen enades om frivilliga standarder för AI-säkerhet, en ordning som Trump beskrev som moraliskt bindande självreglering.
Kritiker säger att frivilliga löften är svaga. FTC:s egen ståndpunkt är att man inte behöver ny lagstiftning, eftersom myndighetens befintliga befogenhet över orättvisa och vilseledande metoder redan omfattar AI-produkter.
För laboratorierna är den praktiska kostnaden tid och informationslämnande. Krav på interna säkerhetsregister kan dra in ingenjörer i juridiskt arbete och fördröja lanseringar. Utfallet kommer också att forma hur tillsynsmyndigheter på andra håll, inklusive i Europa, behandlar påståenden om vad AI-agenter säkert kan anförtros att göra.
Pappersarbetet bakom utredningen
Myndighetens krav väntas omfatta hur laboratorierna testar modeller före lansering, vilka interna varningar personalen har rest, och huruvida säkerhetspåståenden i marknadsföringen matchade vad systemen faktiskt kunde göra. Företag kan bestrida omfattningen av sådana begäranden i domstol, ett steg som skulle fördröja utredningen.