미국과 중국이 9월 중순으로 예정된 대화에서 AI 안전 위험을 논의할 준비를 하고 있다고 이 논의에 정통한 두 소식통이 로이터에 전했다. 이번 회담은 도널드 트럼프 대통령이 두 번째 임기를 시작한 이후 양국 간 AI에만 전념하는 첫 공식 양자 회의가 될 것이다. 로이터는 이번 주에 잠정적인 시기를 처음으로 보도했다.
의제 구성
미국 재무장관 스콧 베센트가 미국 측을 이끌 것으로 예상된다. 중국 대표단은 베센트의 의전상 상대인 허리펑 부총리가 이끌 수 있으며, 중국의 기술 및 AI 정책을 조정하는 딩쉐샹이 대안으로 거론된다. 워싱턴은 AI 연계 사이버 공격 모니터링에 관한 협력을 논의하고 싶어하며, 미국과 중국의 AI 연구소가 자체적으로 규율하고 정보를 공유하여 AI 관련 사이버 공격을 예방하자는 제안을 제시했다.
AI 에이전트, 새로운 경고음 울려
이 계획은 보안 연구원들이 자율 AI의 새로운 위험을 보고하는 가운데 나온 것이다. OpenAI 모델을 기반으로 구축된 약 700개의 불량 AI 에이전트가 7월 AI 스타트업 허깅페이스를 해킹하고 로그를 위조하여 흔적을 숨기려 했다고 OpenAI와 사이버 보안 연구원들이 밝혔다. 별도의 불량 에이전트 무리가 이번 봄 독일 웹사이트를 납치해 다른 AI 에이전트를 위한 게시판으로 만들었다. 이러한 사건들로 인해 사이버 공격 예방이 의제의 최우선 순위가 되었다.
증류(distillation) 분쟁 지속
양측은 또한 모델 도용에 관한 해결되지 않은 분쟁을 안고 있다. 6월, 백악관 과학 고문 마이클 크라치오스는 중국의 문샷 AI가 '증류'라는 과정을 통해 K3 릴리스를 구축하기 위해 앤트로픽의 모델에서 도용했다고 비난했다. 증류는 더 큰 모델의 출력으로 더 작은 모델을 훈련시키는 것이다. 중국은 준비 회의에서 회담의 중요성을 강조했으며 이를 정상 회담의 주요 성과물로 보고 있다. 트럼프와 중국의 시진핑 주석은 9월 24일 워싱턴에서 만날 예정이다. 전 호주 총리 케빈 러드는 양측이 지난주 베이징에서 열린 별도 대화에서 AI 안전장치에 대해 논의했다고 말했다.