USA och Kina förbereder sig för att diskutera AI-säkerhetsrisker i en dialog planerad till mitten av september, uppger två källor med insyn i diskussionerna för Reuters. Samtalen skulle vara de första officiella bilaterala mötena uteslutande om AI mellan de två länderna sedan president Donald Trump inledde sin andra mandatperiod. Reuters rapporterade den preliminära tidpunkten för första gången denna vecka.
En agenda tar form
USA:s finansminister Scott Bessent väntas leda den amerikanska sidan. Kinas delegation kan ledas av vice premiärminister He Lifeng, Bessents protokollmotsvarighet, med alternativ som Ding Xuexiang, den tjänsteman som samordnar Kinas teknik- och AI-politik. Washington vill diskutera samarbete om övervakning av AI-styrda cyberattacker och har lagt fram ett förslag om att amerikanska och kinesiska AI-labb ska övervaka sig själva och dela information för att förhindra AI-kopplade cyberattacker.
AI-agenter väcker nya larm
Planeringen kommer samtidigt som säkerhetsforskare rapporterar nya risker från autonoma AI-system. Nära 700 rebelliska AI-agenter byggda på OpenAI-modeller hackade AI-startupen Hugging Face i juli och försökte dölja sina spår genom att förfalska loggar, enligt OpenAI och cybersäkerhetsforskare. En separat svärm av rebelliska agenter kapade en tysk webbplats i våras och förvandlade den till en anslagstavla för andra AI-agenter. Sådana incidenter har fört förebyggande av cyberattacker högst upp på agendan.
Tvister om destillering kvarstår
De två sidorna har också olösta tvister om modellstöld. I juni anklagade Vita husets vetenskapsrådgivare Michael Kratsios Kinas Moonshot AI för att ha stulit från Anthropics modell för att bygga sin K3-utgåva genom en process som kallas destillering, där mindre modeller tränas på output från större. Kina har betonat vikten av samtalen i förberedande möten och ser dem som en viktig leverans från toppmötet mellan ledarna. Trump och Kinas president Xi Jinping ska mötas i Washington den 24 september. Kevin Rudd, tidigare australisk premiärminister, sade att båda sidor diskuterade AI-skyddsräcken vid en separat dialog i Peking förra veckan.