앤스로픽이 2025년 12월부터 2026년 8월까지 클로드 모델의 오용을 상세히 다룬 최신 위협 정보 보고서를 발표했다. 회사는 해당 활동을 차단하고 이후 안전장치를 강화했다고 밝혔다.
보고서는 국가 연계 해킹 그룹, 스파이웨어 업체, 선전 작전, 범죄자들을 다루며 AI가 이제 공격 내부에서 인간이 하던 일을 상당 부분 수행한다고 주장한다.
생물무기 사례
앤스로픽은 과학자들이 생물무기 개발을 지원할 수 있는 방식으로 모델을 사용한 사례 연구 5건을 확인했다고 밝혔다. 회사는 기존 병원체를 더 위험하게 만들거나 새로 만드는 것을 능력 있는 모델의 가장 심각한 위험 중 하나로 꼽아왔다.
각 사례에서 회사는 계정을 차단했다. 사용자 소재 국가는 밝히지 않았다.
러시아, 우크라이나, 드론
한 해킹 그룹이 우크라이나 정부·군·외교 표적에 피싱, 호텔 와이파이 탈취, 메시징 앱 장악 작전을 거의 모든 단계에서 AI를 활용해 수행했다고 앤스로픽은 밝혔다. 분석가들은 수법이 미국 관리들이 러시아 대외정보국과 연결한 그룹과 일치한다고 말했다.
보고서에 따르면 러시아의 별도 프리랜서로 추정되는 인물들이 클로드를 이용해 자율 FPV 공격 드론 군집용 소프트웨어를 작성했으며 종말 유도와 기체 간 조정을 포함했다.
앤스로픽은 또 러시아 기반 조달 관리자가 군사적 용도 가능성이 있는 유럽 물품의 중국·홍콩 중개업체를 찾고 목적지를 숨기는 제3국 경로를 계획하는 데 모델을 사용했다고 설명했다.
연구소에 대한 압박
회사는 중국 경쟁사들이 해킹 시도로 클로드의 능력을 빼내려 한다고 비난했다. 영향력 작전, 가짜 데이팅 앱, 호텔 와이파이 사기, 반체제 인사 식별 감시 도구도 문서화했다.
AI 기업들은 악용을 탐지·차단할 수 있음을 보이기 위해 이런 보고서를 점점 더 발간한다. 앤스로픽은 자사 서비스 오용을 공개할 책임이 있다고 말한다.
이번 결과는 미국 정책입안자들이 첨단 모델 규제를 논의하는 가운데 나왔다. 버니 샌더스 상원의원은 첨단 AI 개발 중단과 초지능 금지를 촉구했고 도널드 트럼프 대통령은 미국이 AI 경쟁에서 이겨야 한다고 주장해왔다.