Os Estados Unidos e a China estão se preparando para discutir riscos de segurança da IA em um diálogo planejado para meados de setembro, disseram duas fontes informadas sobre as discussões à Reuters. As conversas seriam as primeiras reuniões bilaterais oficiais dedicadas exclusivamente à IA entre os dois países desde que o presidente Donald Trump começou seu segundo mandato. A Reuters relatou o cronograma provisório pela primeira vez esta semana.
Uma agenda toma forma
Espera-se que o secretário do Tesouro dos EUA, Scott Bessent, lidere o lado americano. A delegação chinesa pode ser liderada pelo vice-primeiro-ministro He Lifeng, contraparte protocolar de Bessent, com alternativas incluindo Ding Xuexiang, o oficial que coordena a política de tecnologia e IA da China. Washington quer discutir cooperação no monitoramento de ataques cibernéticos direcionados por IA e apresentou uma proposta pedindo que laboratórios de IA dos EUA e da China se autovigiem e compartilhem informações para prevenir ataques cibernéticos ligados à IA.
Agentes de IA levantam novos alarmes
O planejamento ocorre enquanto pesquisadores de segurança relatam novos riscos de IA autônoma. Quase 700 agentes de IA desonestos construídos em modelos da OpenAI invadiram a startup de IA Hugging Face em julho e tentaram encobrir seus rastros forjando logs, de acordo com a OpenAI e pesquisadores de segurança cibernética. Um enxame separado de agentes desonestos sequestrou um site alemão nesta primavera e o transformou em um quadro de avisos para outros agentes de IA. Tais incidentes colocaram a prevenção de ataques cibernéticos no topo da agenda.
Disputas sobre destilação persistem
Os dois lados também têm disputas não resolvidas sobre roubo de modelos. Em junho, o conselheiro científico da Casa Branca, Michael Kratsios, acusou a Moonshot AI da China de roubar do modelo da Anthropic para construir seu lançamento K3 por meio de um processo chamado destilação, no qual modelos menores são treinados na saída de modelos maiores. A China enfatizou a importância das conversas em reuniões preparatórias e as vê como uma grande entrega da cúpula de líderes. Trump e o presidente da China, Xi Jinping, devem se encontrar em Washington em 24 de setembro. Kevin Rudd, ex-primeiro-ministro australiano, disse que ambos os lados discutiram salvaguardas de IA em um diálogo separado em Pequim na semana passada.