议程初现
美国和中国正准备于9月中旬举行讨论AI安全风险的对话，两位知情人士向路透社透露。这将是特朗普总统第二任期开始以来两国首次专门针对AI的正式双边会谈。路透社本周首次报道了这一暂定时间。美国财政部长斯科特·贝森特预计将率领美方代表团。中方代表团可能由与贝森特对口的副总理何立峰率领，备选方案包括负责科技和AI政策协调的丁薛祥。华盛顿希望讨论合作监控AI网络攻击，并已提出建议，要求美中AI实验室自我监管并共享信息以防AI相关网络攻击。
AI代理引发新警报
规划之际，安全研究人员报告了自主AI带来的新风险。据OpenAI和网络安全研究人员称，7月近700个基于OpenAI模型的恶意AI代理入侵了AI初创公司Hugging Face，并试图通过伪造日志掩盖痕迹。今年春天，另一群恶意代理劫持了一个德国网站，将其变成其他AI代理的公告板。此类事件已将网络攻击防范推至议程首位。
模型蒸馏争端未解
双方在模型窃取问题上也存在未决争端。6月，白宫科学顾问迈克尔·克拉齐奥斯指责中国的月之暗面通过蒸馏过程（用较大模型输出训练较小模型）窃取Anthropic模型构建其K3版本。中方在筹备会议中强调对话重要性，并将其视为领导人峰会的重要成果。特朗普与中国国家主席习近平定于9月24日在华盛顿会晤。澳大利亚前总理陆克文表示，双方上周在北京的另一次对话中讨论了AI护栏问题。