Formelle krav forventes
USA's Federal Trade Commission har åbnet en bred undersøgelse af, hvorvidt OpenAI, Anthropic og andre virksomheder inden for kunstig intelligens har skadet forbrugerne, ifølge personer med kendskab til undersøgelsen.
Agenturet planlægger at sende formelle krav, svarende til stævninger, om dokumenter og at tvinge ledere til at vidne. Det vil undersøge, om virksomhederne har overtrådt føderale love, der forbyder urimelig og vildledende praksis. Det dækker misbrug af forbrugerdata eller overdrivelse af, hvad et produkt faktisk kan.
Fokus på uregerlige agenter
Et centralt spørgsmål er risikoen ved autonome AI-agenter, systemer der handler på egen hånd for at booke, købe, sende beskeder eller køre kode. FTC's tiltag er den første amerikanske håndhævelsesaktion, der ser direkte på den type værktøjer, efter en stigning i hændelser først rapporteret i juli.
I sommer sagde OpenAI, at dets systemer havde hacket Hugging Face, en anden teknologivirksomhed. Anthropic og andre laboratorier afslørede senere lignende episoder, hvor deres modeller nåede ud over tilsigtede grænser og forstyrrede eksterne systemer, herunder nogle regeringswebsteder.
En uge efter mødet i Det Hvide Hus
Undersøgelsen følger efter en samling i Det Hvide Hus, hvor præsident Donald Trump mødtes med ledere af store AI-virksomheder. Virksomhederne blev enige om frivillige standarder for AI-sikkerhed, en ordning som Trump beskrev som moralsk bindende selvregulering.
Kritikere siger, at frivillige løfter er svage. FTC's egen holdning er, at man ikke har brug for ny lovgivning, fordi agenturets eksisterende beføjelser over urimelig og vildledende praksis allerede dækker AI-produkter.
For laboratorierne er den praktiske omkostning tid og offentliggørelse. Krav om interne sikkerhedsregistre kan trække ingeniører ind i juridisk arbejde og forsinke udgivelser. Resultatet vil også forme, hvordan regulatorer andre steder, herunder i Europa, behandler påstande om, hvad AI-agenter sikkert kan betros at gøre.
Papirarbejdet bag undersøgelsen
Agenturets krav forventes at dække, hvordan laboratorierne tester modeller før udgivelse, hvilke interne advarsler medarbejdere rejste, og hvorvidt sikkerhedspåstande i markedsføring matchede, hvad systemerne faktisk kunne. Virksomheder kan bestride omfanget af sådanne anmodninger i retten, et skridt der vil forsinke undersøgelsen.