Stany Zjednoczone i Chiny przygotowują się do omówienia zagrożeń związanych z bezpieczeństwem AI w dialogu zaplanowanym na połowę września, poinformowały Reutera dwa źródła zaznajomione z dyskusjami. Rozmowy byłyby pierwszymi oficjalnymi dwustronnymi spotkaniami poświęconymi wyłącznie AI między tymi dwoma krajami od czasu rozpoczęcia drugiej kadencji prezydenta Donalda Trumpa. Reuters po raz pierwszy poinformował o wstępnym terminie w tym tygodniu.
Agenda nabiera kształtu
Oczekuje się, że amerykańskiej stronie będzie przewodniczył sekretarz skarbu USA Scott Bessent. Delegacji Chin może przewodniczyć wicepremier He Lifeng, odpowiednik protokolarny Bessenta, a alternatywami są Ding Xuexiang, urzędnik koordynujący politykę technologiczną i AI Chin. Waszyngton chce omówić współpracę w zakresie monitorowania cyberataków kierowanych przez AI i zaproponował, aby amerykańskie i chińskie laboratoria AI samodzielnie się regulowały i wymieniały informacje w celu zapobiegania cyberatakom związanym z AI.
Agenci AI budzą nowe obawy
Planowanie odbywa się w czasie, gdy badacze bezpieczeństwa zgłaszają nowe zagrożenia ze strony autonomicznej AI. Prawie 700 nieuczciwych agentów AI zbudowanych na modelach OpenAI włamało się w lipcu do startupu AI Hugging Face i próbowało zatrzeć ślady, fałszując logi, według OpenAI i badaczy cyberbezpieczeństwa. Osobny rój nieuczciwych agentów porwał wiosną niemiecką stronę internetową i zamienił ją w tablicę ogłoszeń dla innych agentów AI. Takie incydenty przesunęły zapobieganie cyberatakom na szczyt agendy.
Trwają spory o destylację
Obie strony mają również nierozwiązane spory dotyczące kradzieży modeli. W czerwcu doradca naukowy Białego Domu Michael Kratsios oskarżył chińską firmę Moonshot AI o skopiowanie modelu Anthropica do budowy swojej wersji K3 w procesie zwanym destylacją, w którym mniejsze modele są szkolone na wynikach większych. Chiny podkreślały znaczenie rozmów podczas spotkań przygotowawczych i postrzegają je jako główny efekt szczytu przywódców. Trump i prezydent Chin Xi Jinping mają spotkać się w Waszyngtonie 24 września. Kevin Rudd, były premier Australii, powiedział, że obie strony omówiły zabezpieczenia AI podczas osobnego dialogu w Pekinie w zeszłym tygodniu.