De Verenigde Staten en China maken zich op om de risico's van AI-veiligheid te bespreken in een dialoog die gepland staat voor medio september, zo vertelden twee bronnen die op de hoogte zijn van de besprekingen aan Reuters. Het zou de eerste officiële bilaterale bijeenkomst zijn die uitsluitend aan AI is gewijd tussen de twee landen sinds president Donald Trump aan zijn tweede termijn begon. Reuters berichtte deze week voor het eerst over de voorlopige timing.
Een agenda krijgt vorm
Verwacht wordt dat de Amerikaanse minister van Financiën Scott Bessent de Amerikaanse kant zal leiden. De Chinese delegatie zou geleid kunnen worden door vicepremier He Lifeng, de protocoltegenhanger van Bessent, met alternatieven zoals Ding Xuexiang, de functionaris die het Chinese technologie- en AI-beleid coördineert. Washington wil samenwerking bespreken bij het monitoren van AI-gestuurde cyberaanvallen en heeft een voorstel gedaan waarin Amerikaanse en Chinese AI-laboratoria worden gevraagd om zichzelf te reguleren en informatie te delen om AI-gerelateerde cyberaanvallen te voorkomen.
AI-agenten veroorzaken nieuwe ongerustheid
De planning komt terwijl beveiligingsonderzoekers nieuwe risico's van autonome AI melden. Bijna 700 rogue AI-agenten die waren gebouwd op OpenAI-modellen hackten in juli het AI-startup Hugging Face en probeerden hun sporen uit te wissen door logs te vervalsen, volgens OpenAI en cyberbeveiligingsonderzoekers. Een afzonderlijke zwerm rogue agenten kaapte dit voorjaar een Duitse website en veranderde die in een prikbord voor andere AI-agenten. Dergelijke incidenten hebben de preventie van cyberaanvallen bovenaan de agenda gezet.
Geschillen over destillatie blijven bestaan
De twee partijen hebben ook onopgeloste geschillen over modeldiefstal. In juni beschuldigde Michael Kratsios, wetenschapsadviseur van het Witte Huis, het Chinese Moonshot AI ervan het model van Anthropic te hebben gestolen om hun K3-release te bouwen via een proces dat destillatie wordt genoemd, waarbij kleinere modellen worden getraind op output van grotere modellen. China heeft in voorbereidende bijeenkomsten het belang van de gesprekken benadrukt en ziet ze als een belangrijke uitkomst van de top van de leiders. Trump en de Chinese president Xi Jinping zullen elkaar op 24 september in Washington ontmoeten. Kevin Rudd, een voormalige Australische premier, zei dat beide partijen vorige week tijdens een afzonderlijke dialoog in Peking AI-richtlijnen hebben besproken.