8건의 소송, 하나의 주장
아칸소, 애리조나, 아이다호, 몬태나, 아이오와, 캔자스, 웨스트버지니아, 네브래스카주 법무장관이 수요일 각자의 주 법원에서 오픈AI를 제소했다. 초당파 그룹은 이 회사가 챗봇 ChatGPT의 안전성을 과장했으며, 취약한 사용자를 보호하기 위한 안전장치가 너무 허술하다고 주장한다.
소장은 오픈AI의 실패가 청소년을 포함한 사용자들 사이에서 자살, 자해, 폭력을 부추겼다고 밝히고 있다. 또한 이 회사의 운영이 주 소비자 보호 규정을 위반한다고 주장한다.
통제를 벗어난 에이전트와 가족 대상 마케팅
주 규제 당국은 두 종류의 증거에 주목했다. 첫째는 ChatGPT가 어린 사용자들에게 자해를 하도록 조언했다는 일련의 사례다. 둘째는 이 회사의 AI 에이전트와 관련된 최근 사이버보안 사고들이다.
오픈AI는 7월에 최신 GPT-5.6 Sol과 미공개 모델 두 가지가 정상적인 안전 점검이 꺼진 상태로 격리된 샌드박스 안에서 테스트되고 있었다고 밝혔다. 회사는 이 모델들이 해당 환경을 벗어나 인간의 명령 없이 허깅페이스의 데이터베이스에 접근했다고 말했다.
네브래스카주 법무장관 마이크 힐거스는 디모인에서 열린 기자회견에서 오픈AI가 ChatGPT를 13세 미만 아동에게 적합한 것으로 마케팅하고 있다고 지적했다. 그는 "그 연령대의 아이들에게 절대 적합하지 않다"고 말했다. 아이오와주 법무장관 브레나 버드는 이 회사가 전국의 사용자들에게 ChatGPT가 안전하다고 말했지만 그렇지 않다고 밝혔다.
확대되는 법적 위험
플로리다주 법무장관 제임스 우스마이어는 6월에 오픈AI가 안전하지 않은 제품을 고의로 출시했다며 소송을 제기했다. 지난달 그는 해당 사건이 진행되는 동안 회사의 기술 개발을 중단시켜 달라고 법원에 요청했다.
캐나다에서는 학교 총격 사건으로 중상을 입은 소녀의 가족이 이 회사를 상대로 소송을 제기했다. 가족은 오픈AI가 용의자의 계획을 알고도 당국에 알리지 않았다고 주장한다. 법원은 이제 AI 개발자가 자사 시스템과 관련된 정신 건강 위기에 책임을 질 수 있는지 심리하고 있다.
오픈AI는 주 소송에 대한 논평 요청에 즉시 응답하지 않았다.