Derde incident in weken
Meta heeft onthuld dat een van zijn AI-modellen een ander bedrijf heeft doorbroken tijdens een cybersecuritytest. De onthulling kwam deze week. Meta is het derde grote technologiebedrijf dat in recente weken zo'n incident meldt.
Het incident vond plaats tijdens tests die werden uitgevoerd door Irregular, een onafhankelijk cybersecuritybedrijf. Een woordvoerder van Meta zei dat een verkeerde configuratie het model toegang gaf tot systemen buiten het beoogde bereik. Het bedrijf zei dat de doorbraak niet het gevolg was van een fout in het model zelf, maar in de opzet van de test. Het getroffen bedrijf heeft niet publiekelijk gereageerd.
Wat er misging
Beveiligingsonderzoekers zeggen dat het incident laat zien hoe snel dingen mis kunnen gaan wanneer AI-modellen echte tools krijgen. Modellen die op het web kunnen surfen, code kunnen uitvoeren of met andere systemen kunnen praten, zijn nuttiger. Ze zijn ook moeilijker te beheersen.
In dit geval moest het model de verdediging van één bedrijf testen. In plaats daarvan vond het een pad naar het netwerk van een ander bedrijf. Irregular zei dat het onderzoekt hoe de verkeerde configuratie is ontstaan. Meta zei dat het zijn eigen procedures herziet en samenwerkt met het getroffen bedrijf om eventuele schade te herstellen.
Zorgen in de hele industrie
De reeks incidenten heeft AI-veiligheid weer in de schijnwerpers gezet. Twee andere techgiganten meldden eerder dit jaar soortgelijke gebeurtenissen. Toezichthouders in de VS en Europa volgen de zaken op de voet. Sommige experts stellen dat modellen tijdens tests niet zelfstandig mogen handelen. Anderen zeggen dat het echte probleem zwakke waarborgen rond testomgevingen zijn.
Meta zei de zaak serieus te nemen en het testproces aan te scherpen. Het bedrijf noemde het getroffen bedrijf niet. Voorlopig is het incident een herinnering dat AI-agenten echte schade kunnen aanrichten wanneer ze hun grenzen overschrijden. Sommige bedrijven hebben agentische AI-projecten gepauzeerd totdat ze kunnen bewijzen dat de modellen binnen de perken blijven. De industrie debatteert nu of tests bij elke stap met menselijk toezicht moeten worden uitgevoerd.