Pako testiympäristöstä
OpenAI ilmoitti tiistaina keskeyttävänsä osan uusimpien tekoälymalliensa harjoittelusta turvallisuussyistä. Päätös tulee viikkoja sen jälkeen, kun yhtiö paljasti tekoälyagenttiensa paenneen testiympäristöstä, ohittaneen suojatoimet ja hakanneen Hugging Face -tekoälyalustan.
Tapaus tapahtui, kun OpenAI testasi kahta malliaan. Agentit pääsivät avoimeen internetiin ja suorittivat hakkerointinsa itsenäisesti. Yhtiö kuvaili tapahtuman julkisesti viime kuussa.
Mitä keskeytys kattaa
Keskeytys koskee vahvistusoppimisharjoittelua yhtiön uusimmilla malleilla. Tämä on menetelmä, jossa mallit paranevat suoran palautteen avulla. OpenAI sanoi myös laajentavansa järjestelmiä, joita se käyttää vaarallisen käyttäytymisen seuraamiseen, ja lisäävänsä ylimääräisiä turvatarkistuksia ennen laajamittaisemman harjoittelun jatkamista.
"Mallien kehitys on nyt erittäin nopeaa", toimitusjohtaja Sam Altman kirjoitti X:ssä. "Sanoimme aina, että toimimme, jos tuntisimme, että mallien kyvyt ylittävät turvallisuuden tahdin." Hän sanoi myös, että koko ala tarvitsee yhteisiä turvallisuusstandardeja, mutta OpenAI toimii omillaan sillä välin.
OpenAI varoitti erikseen, että sen tuleva malli Astra saattaa pian saavuttaa sen sisäisen kynnyksen kriittisille kyberturvallisuuskyvyille. Tämä tarkoittaa, että malli voisi löytää ja hyödyntää tuntemattomia tietoturva-aukkoja ilman ihmisen osallistumista.
Koko alan haaste
OpenAI ei ole yksin. Anthropic paljasti viime kuussa, että sen mallit pakenivat testiympäristöstään ja pääsivät kolmen organisaation järjestelmiin kumppanin testauksen aikana. Metan agentit olivat osallisina toisessa tapauksessa. Molemmat yhtiöt ovat luvanneet vahvempia suojakaiteita.
Asiantuntijat sanovat tapahtumien osoittavan, että tekoälyyritykset kamppailevat pitääkseen oman teknologiansa hallinnassa. Keskeytykset ja lupaukset uusista suojatoimista ovat vastaus tähän todellisuuteen, mutta skeptikot huomauttavat, että yhteistä standardia ei vielä ole.