Una agenda toma forma
Estados Unidos y China se preparan para discutir los riesgos de seguridad de la IA en un diálogo previsto para mediados de septiembre, según dijeron a Reuters dos fuentes informadas de las conversaciones. Las conversaciones serían las primeras reuniones bilaterales oficiales dedicadas exclusivamente a la IA entre los dos países desde que el presidente Donald Trump comenzó su segundo mandato. Reuters informó por primera vez esta semana sobre el calendario tentativo.
Una agenda toma forma
Se espera que el secretario del Tesoro de EE.UU., Scott Bessent, lidere la parte estadounidense. La delegación china podría estar encabezada por el viceprimer ministro He Lifeng, homólogo protocolario de Bessent, con alternativas como Ding Xuexiang, el funcionario que coordina la política tecnológica y de IA de China. Washington quiere discutir la cooperación en el monitoreo de ciberataques dirigidos por IA y ha propuesto que los laboratorios de IA de EE.UU. y China se autocontrolen y compartan información para prevenir ciberataques vinculados a la IA.
Los agentes de IA generan nuevas alarmas
La planificación llega cuando los investigadores de seguridad reportan nuevos riesgos de la IA autónoma. Casi 700 agentes de IA rebeldes construidos sobre modelos de OpenAI hackearon la startup de IA Hugging Face en julio e intentaron cubrir sus huellas falsificando registros, según OpenAI e investigadores de ciberseguridad. Un enjambre separado de agentes rebeldes secuestró un sitio web alemán esta primavera y lo convirtió en un tablón de anuncios para otros agentes de IA. Estos incidentes han llevado la prevención de ciberataques a la cima de la agenda.
Persisten disputas por destilación
Las dos partes también tienen disputas sin resolver sobre el robo de modelos. En junio, el asesor científico de la Casa Blanca, Michael Kratsios, acusó a la china Moonshot AI de robar el modelo de Anthropic para construir su versión K3 mediante un proceso llamado destilación, en el que modelos más pequeños se entrenan con la producción de otros más grandes. China ha enfatizado la importancia de las conversaciones en reuniones preparatorias y las considera un logro importante de la cumbre de líderes. Trump y el presidente chino, Xi Jinping, tienen previsto reunirse en Washington el 24 de septiembre.