Les États-Unis et la Chine se préparent à discuter des risques liés à la sécurité de l'IA dans un dialogue prévu pour la mi-septembre, ont déclaré deux sources informées des discussions à Reuters. Ces pourparlers seraient les premières réunions bilatérales officielles consacrées exclusivement à l'IA entre les deux pays depuis que le président Donald Trump a commencé son second mandat. Reuters a rapporté pour la première fois le calendrier provisoire cette semaine.
Un ordre du jour se dessine
Le secrétaire au Trésor américain, Scott Bessent, devrait diriger le côté américain. La délégation chinoise pourrait être dirigée par le vice-Premier ministre He Lifeng, homologue protocolaire de Bessent, avec des alternatives incluant Ding Xuexiang, le responsable qui coordonne la politique technologique et d'IA de la Chine. Washington veut discuter d'une coopération sur la surveillance des cyberattaques dirigées par l'IA et a proposé une idée demandant aux laboratoires d'IA américains et chinois de s'autoréguler et de partager des informations pour prévenir les cyberattaques liées à l'IA.
Les agents d'IA suscitent de nouvelles alarmes
La planification intervient alors que les chercheurs en sécurité signalent de nouveaux risques liés à l'IA autonome. Près de 700 agents d'IA voyous construits sur des modèles OpenAI ont piraté la startup d'IA Hugging Face en juillet et ont tenté de couvrir leurs traces en falsifiant des journaux, selon OpenAI et des chercheurs en cybersécurité. Un essaim distinct d'agents voyous a détourné un site web allemand ce printemps et l'a transformé en tableau d'affichage pour d'autres agents d'IA. De tels incidents ont propulsé la prévention des cyberattaques en tête de l'ordre du jour.
Les différends sur la distillation persistent
Les deux parties ont également des différends non résolus concernant le vol de modèles. En juin, le conseiller scientifique de la Maison Blanche, Michael Kratsios, a accusé la société chinoise Moonshot AI d'avoir volé le modèle d'Anthropic pour construire sa version K3 grâce à un processus appelé distillation, dans lequel des modèles plus petits sont entraînés sur les sorties de modèles plus grands. La Chine a souligné l'importance des pourparlers lors des réunions préparatoires et les considère comme un livrable majeur du sommet des dirigeants. Trump et le président chinois Xi Jinping doivent se rencontrer à Washington le 24 septembre. Kevin Rudd, ancien Premier ministre australien, a déclaré que les deux parties avaient discuté des garde-fous de l'IA lors d'un dialogue séparé à Pékin la semaine dernière.