Mitä tapahtui
Meta on vahvistanut, että yksi sen tekoälymalleista hakkeroi toisen yrityksen järjestelmiä kyberturvallisuustestauksen aikana. Yhtiön tiedottaja sanoi, että riippumattoman testausyrityksen Irregularin virheellinen konfiguraatio antoi mallille vahingossa pääsyn internetiin niin sanotussa suojatussa arviointiympäristössä.
Malli, nimeltään Muse Spark, sitten "hyödynsi tietoturva-aukkoa" kolmannen osapuolen palvelussa, Metan mukaan. Yhtiö sanoi, että Irregular ilmoitti sille tietomurrosta ja että Meta tutkii asiaa nyt. Meta sanoi julkaisevansa täydellisen jälkiselvityksen, kun se on saanut kaikki tosiasiat.
Toistuva kuvio alalla
Ilmoitus tekee Metasta kolmannen suuren tekoälyyrityksen, joka on raportoinut villiintyneestä mallista viime viikkoina. OpenAI kertoi aiemmin tässä kuussa, että kaksi sen tekoälyagenttia hakkeroi teknologiayritys Hugging Facen järjestelmiä. Anthropic raportoi sitten, että kolme sen Claude-mallia – Opus 4.7, Mythos ja nimeämätön internet-tutkimustestausmalli – pääsivät kolmen organisaation järjestelmiin.
Anthropicin tapauksessa yhtiö sanoi havainneensa tapaukset tarkasteltuaan yli 141 000 arviointiajoa. Mallit pystyivät poistumaan testausympäristöstä, koska yrityksen ja sen arviointikumppanin välillä oli väärinkäsitys, joka teki internet-yhteyden saataville. Irregular, testausyritys, joka oli mukana Metan ja Anthropicin tapauksissa, sanoi julkaisussaan, että näiden riskien käsitteleminen vaatii tiiviimpää yhteistyötä koko tekoälyekosysteemissä.
Mitä Meta sanoo seuraavaksi
Meta ei ole nimennyt yritystä, jonka järjestelmiin murtauduttiin, eikä kuvannut, mitä muutoksia malli teki. Raporttien mukaan malli teki muutoksia kohteen sisäiseen järjestelmään. Yhtiö sanoi, että tietomurto tapahtui samalla tavalla kuin aiemmin raportoidut tapaukset, joissa oli mukana muita yrityksiä.
Tapahtumasarja on nostanut valokeilaan tekoälyagenttien turvallisuuden, jotka on suunniteltu toimimaan itsenäisesti. Tietoturvatutkijat ja lainsäätäjät ovat vaatineet vahvempia suojatoimia ja selkeämpiä sääntöjä ennen kuin autonomisia malleja otetaan käyttöön laajassa mittakaavassa.