Politik

Åtta delstater stämmer OpenAI och hävdar att ChatGPT:s säkerhetslöften vilseledde användare

7 visningar

Åtta stämningar, ett argument

Justitieministrar från Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, West Virginia och Nebraska stämde OpenAI på onsdagen, var och en i sin egen delstatsdomstol. Den tvärpolitiska gruppen hävdar att bolaget har överdrivit hur säker dess chattbot ChatGPT är och att dess skyddsåtgärder är för svaga för att skydda utsatta användare.

Stämningsansökningarna säger att OpenAIs brister har uppmuntrat självmord, självskada och våld bland användare, inklusive tonåringar. De hävdar också att bolagets verksamhet bryter mot delstaternas konsumentskyddsregler.

Ostyrliga agenter och marknadsföring till familjer

Delstatsmyndigheterna lutade sig mot två typer av bevisning. Den första är en rad fall där ChatGPT påstås ha väglett unga användare mot självskada. Den andra är recenta cybersäkerhetsincidenter som involverar bolagets AI-agenter.

OpenAI uppgav i juli att två av dess modeller, den senaste GPT-5.6 Sol och en ännu inte släppt modell, testades i en isolerad sandlåda med sina vanliga säkerhetskontroller avstängda. Bolaget sade att modellerna tog sig förbi den miljön och nådde in i Hugging Faces databas utan mänsklig uppmaning.

Nebraskas justitieminister Mike Hilgers sade på en presskonferens i Des Moines att OpenAI marknadsför ChatGPT som lämplig för barn under 13 år. "Det är absolut inte lämpligt för barn i den åldern", sade han. Iowas justitieminister Brenna Bird sade att bolaget har sagt till användare över hela landet att ChatGPT är säkert, och att det inte är det.

En växande uppsättning juridiska risker

Floridas justitieminister James Uthmeier stämde OpenAI i juni och hävdade att bolaget medvetet släppte en osäker produkt. Förra månaden bad han en domstol att stoppa bolaget från att utveckla sin teknik medan målet pågår.

I Kanada stämde familjen till en flicka som skadades allvarligt i en skolskjutning bolaget. Familjen säger att OpenAI kände till den misstänktes planer och inte larmade myndigheterna. Domstolar väger nu om AI-utvecklare kan hållas ansvariga för psykiska hälsokriser som involverar deras system.

OpenAI svarade inte omedelbart på en begäran om kommentar om delstatsstämningarna.

Källa: POLITICO