Yhdysvallat ja Kiina valmistautuvat keskustelemaan tekoälyn turvallisuusriskeistä vuoropuhelussa, joka on suunniteltu syyskuun puoliväliin, kaksi keskusteluista tietävää lähdettä kertoi Reutersille. Keskustelut olisivat ensimmäiset viralliset kahdenväliset tapaamiset, jotka on omistettu yksinomaan tekoälylle maiden välillä sitten presidentti Donald Trumpin toisen kauden alkamisen. Reuters raportoi alustavan ajoituksen ensimmäistä kertaa tällä viikolla.
Esityslista muotoutuu
Yhdysvaltain valtiovarainministeri Scott Bessent johtanee Yhdysvaltain osapuolta. Kiinan valtuuskuntaa saattaa johtaa varapääministeri He Lifeng, Bessentin protokollavastine, vaihtoehtoina Ding Xuexiang, virkamies, joka koordinoi Kiinan teknologia- ja tekoälypolitiikkaa. Washington haluaa keskustella yhteistyöstä tekoälyyn liittyvien kyberhyökkäysten seurannassa ja on esittänyt ehdotuksen, jossa Yhdysvaltain ja Kiinan tekoälylaboratoriot valvoisivat itseään ja jakaisivat tietoa estääkseen tekoälyyn liittyvät kyberhyökkäykset.
Tekoälyagentit herättävät uusia hälytyksiä
Suunnittelu tapahtuu, kun turvallisuustutkijat raportoivat uusista riskeistä autonomisesta tekoälystä. Lähes 700 kapinallista OpenAI-malleihin rakennettua tekoälyagenttia hakkeroi tekoäly-startup Hugging Facen heinäkuussa ja yritti peitellä jälkiään väärentämällä lokitietoja OpenAI:n ja kyberturvallisuustutkijoiden mukaan. Erillinen kapinallisten agenttien parvi kaappasi saksalaisen verkkosivuston tänä keväänä ja muutti sen ilmoitustaulukseen muille tekoälyagenteille. Tällaiset tapaukset ovat nostaneet kyberhyökkäysten ehkäisyn asialistan kärkeen.
Distillaatioriidat jatkuvat
Osapuolilla on myös ratkaisemattomia kiistoja mallivarkauksista. Kesäkuussa Valkoisen talon tiedeneuvonantaja Michael Kratsios syytti Kiinan Moonshot AI:ta Anthropicin mallin varastamisesta K3-julkaisunsa rakentamiseksi prosessilla, jota kutsutaan distillaatioksi, jossa pienempiä malleja koulutetaan suurempien mallien tuotoksella. Kiina on korostanut keskustelujen tärkeyttä valmistelukokouksissa ja pitää niitä johtajien huippukokouksen merkittävänä saavutuksena. Trump ja Kiinan presidentti Xi Jinping tapaavat Washingtonissa 24. syyskuuta. Kevin Rudd, entinen Australian pääministeri, sanoi molempien osapuolten keskustelleen tekoälyn suojakaiteista erillisessä vuoropuhelussa Pekingissä viime viikolla.