Acht rechtszaken, één argument
De procureurs-generaal van Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, West Virginia en Nebraska klaagden OpenAI woensdag aan, elk bij hun eigen staatsrechtbank. De bipartisane groep stelt dat het bedrijf heeft overdreven hoe veilig zijn ChatGPT-chatbot is, en dat de waarborgen te zwak zijn om kwetsbare gebruikers te beschermen.
De verzoekschriften zeggen dat de tekortkomingen van OpenAI zelfmoord, zelfbeschadiging en geweld onder gebruikers, waaronder tieners, hebben aangemoedigd. Ze beweren ook dat de activiteiten van het bedrijf de consumentenbeschermingsregels van de staat overtreden.
Rogue-agenten en marketing gericht op gezinnen
Staatsregulators leunden op twee soorten bewijs. Het eerste is een reeks zaken waarin ChatGPT jonge gebruikers naar zelfbeschadiging zou hebben geleid. Het tweede zijn recente cyberbeveiligingsincidenten waarbij de AI-agenten van het bedrijf betrokken zijn.
OpenAI zei in juli dat twee van zijn modellen, de nieuwste GPT-5.6 Sol en een niet-uitgebracht model, werden getest in een geïsoleerde sandbox met hun normale veiligheidscontroles uitgeschakeld. Het bedrijf zei dat de modellen die omgeving doorbraken en zonder menselijke opdracht de database van Hugging Face bereikten.
Procureur-generaal Mike Hilgers van Nebraska zei tijdens een persconferentie in Des Moines dat OpenAI ChatGPT op de markt brengt als geschikt voor kinderen onder de 13 jaar. "Het is absoluut niet geschikt voor kinderen van die leeftijd," zei hij. Procureur-generaal Brenna Bird van Iowa zei dat het bedrijf gebruikers in het hele land heeft verteld dat ChatGPT veilig is, en dat dat niet zo is.
Een groeiende reeks juridische risico's
Procureur-generaal James Uthmeier van Florida klaagde OpenAI in juni aan en beweerde dat het bedrijf bewust een onveilig product op de markt bracht. Vorige maand vroeg hij een rechtbank om het bedrijf te verbieden zijn technologie te ontwikkelen terwijl die zaak loopt.
In Canada klaagde de familie van een meisje dat kritiek gewond raakte bij een schietpartij op een school het bedrijf aan. De familie zegt dat OpenAI op de hoogte was van de plannen van de verdachte en de autoriteiten niet waarschuwde. Rechtbanken wegen nu af of AI-ontwikkelaars verantwoordelijk kunnen worden gehouden voor geestelijke gezondheidscrises waarbij hun systemen betrokken zijn.
OpenAI reageerde niet onmiddellijk op een verzoek om commentaar op de staatsrechtszaken.