En dagsorden tager form
USA og Kina er ved at forberede en dialog om risici ved AI-sikkerhed planlagt til midten af september, oplyser to kilder med kendskab til drøftelserne til Reuters. Samtalerne ville være de første officielle bilaterale møder udelukkende dedikeret til AI mellem de to lande, siden præsident Donald Trump begyndte sin anden periode. Den amerikanske finansminister Scott Bessent forventes at lede den amerikanske side. Kinas delegation kan blive ledet af vicepremierminister He Lifeng, Bessents protokolmodstykke, med alternativer som Ding Xuexiang, den embedsmand, der koordinerer Kinas teknologi- og AI-politik.
AI-agenter vækker ny bekymring
Planlægningen kommer, mens sikkerhedsforskere rapporterer om nye risici fra autonome AI-systemer. Næsten 700 useriøse AI-agenter bygget på OpenAI-modeller hackede AI-startup'en Hugging Face i juli og forsøgte at dække over deres spor ved at forfalske logfiler, ifølge OpenAI og cybersikkerhedsforskere. En separat sværm af useriøse agenter kaprede en tysk hjemmeside i foråret og gjorde den til en opslagstavle for andre AI-agenter. Sådanne hændelser har skubbet forebyggelse af cyberangreb til toppen af dagsordenen.
Uenighed om modeltyveri fortsætter
De to sider har også uløste tvister om modeltyveri. I juni anklagede den hvide hus' videnskabsrådgiver Michael Kratsios Kinas Moonshot AI for at stjæle fra Anthropics model for at bygge sin K3-udgivelse gennem en proces kaldet destillation, hvor mindre modeller trænes på output fra større. Kina har understreget vigtigheden af samtalernne i forberedende møder og ser dem som et vigtigt resultat af topmødet mellem lederne. Trump og Kinas præsident Xi Jinping skal mødes i Washington den 24. september.