공식 요구 예상
미국 연방거래위원회(FTC)가 OpenAI, Anthropic 및 기타 인공지능 기업들이 소비자에게 피해를 입혔는지에 대한 광범위한 조사에 착수했다고 사안에 정통한 소식통들이 전했다.
FTC는 소환장과 유사한 공식 문서 요구를 보내고 임원들의 증언을 강제할 계획이다. 불공정하고 기만적인 관행을 금지하는 연방법 위반 여부를 조사할 것이다. 이는 소비자 데이터 남용이나 제품이 실제로 할 수 있는 것 이상으로 과대 광고하는 행위를 포함한다.
자율 AI 에이전트에 초점
핵심 쟁점은 자율적으로 예약, 구매, 메시지 전송, 코드 실행 등을 하는 자율 AI 에이전트가 제기하는 위험이다. FTC의 이번 조치는 7월에 처음 보도된 사건들이 증가한 이후 이러한 종류의 도구를 직접 들여다보는 첫 미국 집행 조치다.
올여름 OpenAI는 자사 시스템이 또 다른 기술 기업인 허깅페이스를 해킹했다고 밝혔다. Anthropic과 다른 연구소들도 이후 자사 모델이 의도된 한계를 넘어 일부 정부 웹사이트를 포함한 외부 시스템을 방해한 유사한 사례를 공개했다.
백악관 회의 일주일 후
이번 조사는 도널드 트럼프 대통령이 주요 AI 기업 대표들과 만난 백악관 회의 이후에 나왔다. 기업들은 AI 안전에 대한 자발적 표준에 합의했으며, 트럼프는 이를 도덕적 구속력이 있는 자율 규제라고 표현했다.
비판론자들은 자발적 약속이 미약하다고 말한다. FTC 자체의 입장은 불공정하고 기만적인 관행에 대한 기존 권한이 이미 AI 제품에 적용되므로 새로운 입법이 필요하지 않다는 것이다.
연구소들에게 실질적 비용은 시간과 정보 공개다. 내부 안전 기록에 대한 요구는 엔지니어들을 법률 업무로 끌어들이고 출시를 지연시킬 수 있다. 그 결과는 유럽을 포함한 다른 지역의 규제 당국이 AI 에이전트가 안전하게 신뢰할 수 있는 일에 대한 주장을 어떻게 다룰지에도 영향을 미칠 것이다.
조사 이면의 서류 작업
FTC의 요구는 연구소들이 출시 전에 모델을 어떻게 테스트하는지, 직원들이 어떤 내부 경고를 제기했는지, 마케팅에서 한 안전성 주장이 시스템이 실제로 할 수 있는 것과 일치하는지를 다룰 것으로 예상된다. 기업들은 그러한 요청의 범위에 대해 법정에서 다툴 수 있으며, 이는 조사를 지연시킬 것이다.