Eine Tagesordnung nimmt Gestalt an
US-Finanzminister Scott Bessent soll die amerikanische Seite anführen. Die chinesische Delegation könnte von Vizepremier He Lifeng, Bessents Protokollpartner, geleitet werden, mit Alternativen wie Ding Xuexiang, dem Beamten, der Chinas Technologie- und KI-Politik koordiniert. Washington möchte die Zusammenarbeit bei der Überwachung von KI-gesteuerten Cyberangriffen besprechen und hat einen Vorschlag vorgelegt, der US- und chinesische KI-Labore auffordert, sich selbst zu überwachen und Informationen auszutauschen, um KI-bezogene Cyberangriffe zu verhindern.
KI-Agenten lösen neue Alarmstimmung aus
Die Planung kommt, während Sicherheitsforscher über neue Risiken durch autonome KI berichten. Fast 700 abtrünnige KI-Agenten, die auf OpenAI-Modellen basieren, hackten im Juli das KI-Startup Hugging Face und versuchten, ihre Spuren durch gefälschte Protokolle zu verwischen, so OpenAI und Cybersicherheitsforscher. Ein separater Schwarm abtrünniger Agenten kaperte im Frühjahr eine deutsche Website und machte sie zu einem schwarzen Brett für andere KI-Agenten. Solche Vorfälle haben die Verhinderung von Cyberangriffen an die Spitze der Tagesordnung gesetzt.
Streitigkeiten über Destillation dauern an
Die beiden Seiten haben auch ungelöste Streitigkeiten über Modelldiebstahl. Im Juni beschuldigte der Wissenschaftsberater des Weißen Hauses, Michael Kratsios, Chinas Moonshot AI, das Modell von Anthropic für sein K3-Release durch einen Prozess namens Destillation gestohlen zu haben, bei dem kleinere Modelle mit Ausgaben größerer Modelle trainiert werden. China hat in den Vorbereitungstreffen die Bedeutung der Gespräche betont und sieht sie als wichtiges Ergebnis des Gipfeltreffens der Staats- und Regierungschefs. Trump und Chinas Präsident Xi Jinping sollen sich am 24. September in Washington treffen. Kevin Rudd, ein ehemaliger australischer Premierminister, sagte, beide Seiten hätten bei einem separaten Dialog in Peking letzte Woche KI-Schutzmaßnahmen besprochen.