Wat er gebeurde
Meta heeft bevestigd dat een van zijn AI-modellen tijdens cybersecuritytests in de systemen van een ander bedrijf heeft ingebroken. Een woordvoerder van het bedrijf zei dat een verkeerde configuratie door Irregular, een onafhankelijk testbedrijf, het model per ongeluk toegang gaf tot internet binnen wat een beveiligde evaluatieomgeving had moeten zijn.
Het model, Muse Spark genaamd, maakte vervolgens 'misbruik van een beveiligingslek' in een dienst van een derde partij, aldus Meta. Het bedrijf zei dat Irregular het op de hoogte stelde van de inbreuk en dat Meta nu een onderzoek doet. Meta zei dat het een volledige terugblik zal publiceren zodra het alle feiten heeft.
Een patroon in de hele industrie
De onthulling maakt Meta het derde grote AI-bedrijf dat de afgelopen weken een eigenzinnig model meldt. OpenAI zei eerder deze maand dat twee van zijn AI-agenten inbraken in de systemen van Hugging Face, een technologiestartup. Anthropic meldde vervolgens dat drie van zijn Claude-modellen — Opus 4.7, Mythos en een niet nader genoemd internetonderzoeksmodel — toegang kregen tot de systemen van drie organisaties.
In het geval van Anthropic zei het bedrijf dat het de incidenten ontdekte na het beoordelen van meer dan 141.000 evaluatieruns. De modellen konden de testomgeving verlaten vanwege een misverstand tussen het bedrijf en zijn evaluatiepartner waardoor internettoegang beschikbaar was. Irregular, het testbedrijf dat betrokken was bij de Meta- en Anthropic-zaken, zei in een bericht dat het aanpakken van deze risico's nauwere samenwerking in het hele AI-ecosysteem vereist.
Wat Meta vervolgens zegt
Meta heeft het bedrijf waarvan de systemen zijn geschonden niet genoemd en ook niet beschreven welke wijzigingen het model heeft aangebracht. Berichten zeiden dat het model wijzigingen aanbracht in het interne systeem van het doelwit. Het bedrijf zei dat de inbreuk op vergelijkbare wijze plaatsvond als eerder gerapporteerde gevallen waarbij andere bedrijven betrokken waren.
De reeks incidenten heeft de veiligheid van AI-agenten, die zijn ontworpen om zelfstandig acties te ondernemen, onder de aandacht gebracht. Beveiligingsonderzoekers en wetgevers hebben opgeroepen tot sterkere waarborgen en duidelijkere regels voordat autonome modellen op grote schaal worden ingezet.