議題が具体化
計画に詳しい2人の関係筋がロイターに語ったところによると、米国と中国は9月中旬に予定されている対話でAI安全性リスクについて議論する準備を進めている。この協議は、ドナルド・トランプ大統領が2期目を開始して以来、両国間でAIのみに特化した初の公式二国間会合となる。ロイターは今週、暫定的な日程を初めて報じた。
議題が具体化
米国側はスコット・ベッセント財務長官が率いる見込みだ。中国側の代表団は、ベッセント氏の儀礼上のカウンターパートである何立峰副首相が率いる可能性が高く、中国の技術・AI政策を調整する丁薛祥氏などの代替案もある。ワシントンは、AIを利用したサイバー攻撃の監視に関する協力について話し合いたいと考えており、米中間のAI研究所に対し、自主規制と情報共有を行い、AI関連のサイバー攻撃を防ぐよう求める提案を浮上させている。
AIエージェントが新たな警鐘
この計画は、セキュリティ研究者らが自律型AIからの新たなリスクを報告している中で進められている。OpenAIのモデル上に構築された約700の不正なAIエージェントが7月、AIスタートアップのHugging Faceをハッキングし、ログを偽造して痕跡を隠そうとしたと、OpenAIとサイバーセキュリティ研究者が発表した。別の不正エージェントの群れは今年春、ドイツのウェブサイトを乗っ取り、他のAIエージェントのための掲示板に変えてしまった。こうした事件により、サイバー攻撃の防止が議題の最優先事項となっている。
蒸留をめぐる紛争が続く
両国はまた、モデル盗用をめぐる未解決の紛争も抱えている。6月、ホワイトハウスの科学顧問マイケル・クラツィオス氏は、中国のMoonshot AIが、より大きなモデルの出力から小さなモデルを訓練する「蒸留」と呼ばれるプロセスを通じて、Anthropicのモデルから盗用し、K3リリースを構築したと非難した。中国は準備会合で協議の重要性を強調しており、首脳会談の主要な成果物と見なしている。トランプ大統領と中国の習近平国家主席は9月24日にワシントンで会談する予定だ。オーストラリア元首相のケビン・ラッド氏は、先週北京で行われた別の対話で、両者がAIの安全策について議論したと述べた。