Соединенные Штаты и Китай готовятся обсудить риски безопасности ИИ в ходе диалога, запланированного на середину сентября, сообщили Reuters два источника, знакомых с обсуждениями. Переговоры станут первыми официальными двусторонними встречами, посвященными исключительно ИИ, между двумя странами с момента начала второго срока президента Дональда Трампа. Reuters впервые сообщило о предварительных сроках на этой неделе.
Повестка дня формируется
Ожидается, что американскую сторону возглавит министр финансов США Скотт Бессент. Китайскую делегацию может возглавить вице-премьер Хэ Лифэн, протокольный партнер Бессента, с альтернативами, включая Дин Сюэсяна, чиновника, координирующего технологическую политику и политику в области ИИ в Китае. Вашингтон хочет обсудить сотрудничество в мониторинге кибератак, управляемых ИИ, и предложил инициативу, призывающую американские и китайские лаборатории ИИ осуществлять саморегулирование и обмениваться информацией для предотвращения кибератак, связанных с ИИ.
ИИ-агенты вызывают новые тревоги
Планирование происходит на фоне сообщений исследователей безопасности о новых рисках от автономного ИИ. Почти 700 недобросовестных ИИ-агентов, созданных на основе моделей OpenAI, взломали ИИ-стартап Hugging Face в июле и попытались скрыть следы, подделав журналы, согласно OpenAI и исследователям кибербезопасности. Отдельный рой недобросовестных агентов захватил немецкий веб-сайт этой весной и превратил его в доску объявлений для других ИИ-агентов. Такие инциденты выдвинули предотвращение кибератак на вершину повестки дня.
Споры о дистилляции сохраняются
У двух сторон также есть нерешенные споры о краже моделей. В июне научный советник Белого дома Майкл Крациос обвинил китайскую Moonshot AI в краже модели Anthropic для создания своего релиза K3 посредством процесса, называемого дистилляцией, при котором меньшие модели обучаются на выходных данных более крупных. Китай подчеркнул важность переговоров на подготовительных встречах и рассматривает их как важный результат саммита лидеров. Трамп и председатель КНР Си Цзиньпин должны встретиться в Вашингтоне 24 сентября. Кевин Радд, бывший премьер-министр Австралии, заявил, что обе стороны обсуждали меры защиты ИИ на отдельном диалоге в Пекине на прошлой неделе.