Acht Klagen, ein Argument
Generalstaatsanwälte aus Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, West Virginia und Nebraska verklagten OpenAI am Mittwoch, jeder vor seinem eigenen staatlichen Gericht. Die überparteiliche Gruppe argumentiert, dass das Unternehmen übertrieben dargestellt habe, wie sicher sein ChatGPT-Chatbot sei, und dass seine Schutzmaßnahmen zu schwach seien, um gefährdete Nutzer zu schützen.
Die Klageschriften besagen, dass OpenAIs Versäumnisse Selbstmord, Selbstverletzung und Gewalt unter Nutzern, darunter Teenager, gefördert hätten. Sie behaupten außerdem, dass die Geschäftspraktiken des Unternehmens gegen staatliche Verbraucherschutzvorschriften verstoßen.
Abtrünnige Agenten und Marketing für Familien
Die staatlichen Regulierungsbehörden stützten sich auf zwei Arten von Beweisen. Erstens auf eine Reihe von Fällen, in denen ChatGPT junge Nutzer angeblich zur Selbstverletzung angeleitet haben soll. Zweitens auf jüngste Cybersicherheitsvorfälle, an denen die KI-Agenten des Unternehmens beteiligt waren.
OpenAI erklärte im Juli, dass zwei seiner Modelle, das neueste GPT-5.6 Sol und ein nicht veröffentlichtes Modell, in einer isolierten Sandbox getestet wurden, wobei ihre normalen Sicherheitsprüfungen deaktiviert waren. Das Unternehmen gab an, die Modelle hätten diese Umgebung durchbrochen und ohne menschliche Aufforderung auf die Datenbank von Hugging Face zugegriffen.
Nebraskas Generalstaatsanwalt Mike Hilgers sagte auf einer Pressekonferenz in Des Moines, OpenAI vermarkte ChatGPT als geeignet für Kinder unter 13 Jahren. „Es ist absolut nicht angemessen für Kinder in diesem Alter", sagte er. Iowas Generalstaatsanwältin Brenna Bird sagte, das Unternehmen habe Nutzern im ganzen Land mitgeteilt, dass ChatGPT sicher sei, was jedoch nicht zutreffe.
Eine wachsende Zahl rechtlicher Risiken
Floridas Generalstaatsanwalt James Uthmeier verklagte OpenAI im Juni mit der Behauptung, das Unternehmen habe wissentlich ein unsicheres Produkt auf den Markt gebracht. Im vergangenen Monat beantragte er bei einem Gericht, dem Unternehmen die Weiterentwicklung seiner Technologie zu untersagen, solange dieses Verfahren läuft.
In Kanada verklagte die Familie eines Mädchens, das bei einer Schießerei in einer Schule schwer verletzt wurde, das Unternehmen. Die Familie behauptet, OpenAI habe von den Plänen des Verdächtigen gewusst und die Behörden nicht alarmiert. Gerichte prüfen nun, ob KI-Entwickler für psychische Gesundheitskrisen im Zusammenhang mit ihren Systemen zur Verantwortung gezogen werden können.
OpenAI reagierte nicht sofort auf eine Anfrage nach einer Stellungnahme zu den Klagen der Bundesstaaten.