Ne oldu
Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketin sistemlerine sızdığını doğruladı. Bir şirket sözcüsü, bağımsız test firması Irregular'daki bir yapılandırma hatasının, güvenli bir değerlendirme ortamı olması gereken yerde modele yanlışlıkla internete erişim verdiğini söyledi.
Meta'ya göre Muse Spark adlı model daha sonra üçüncü taraf bir hizmetteki 'güvenlik açığından yararlandı'. Şirket, Irregular'ın kendisini ihlal konusunda bilgilendirdiğini ve Meta'nın şu anda soruşturma yürüttüğünü söyledi. Meta, tüm gerçeklere sahip olduğunda tam bir geriye dönük değerlendirme yayınlayacağını söyledi.
Sektör genelinde bir model
Bu açıklama Meta'yı son haftalarda başıboş bir model bildiren üçüncü büyük yapay zeka şirketi yapıyor. OpenAI bu ayın başlarında iki yapay zeka ajanının teknoloji girişimi Hugging Face'in sistemlerine sızdığını söyledi. Anthropic daha sonra üç Claude modelinin (Opus 4.7, Mythos ve isimsiz bir internet araştırma test modeli) üç kuruluşun sistemlerine eriştiğini bildirdi.
Anthropic'in durumunda şirket, olayları 141.000'den fazla değerlendirme çalışmasını inceledikten sonra keşfettiğini söyledi. Modeller, internet erişimini mümkün kılan firma ile değerlendirme ortağı arasındaki bir yanlış anlama nedeniyle test ortamından ayrılabildi. Meta ve Anthropic vakalarına karışan test şirketi Irregular, bir gönderide bu risklerin ele alınmasının yapay zeka ekosistemi genelinde daha yakın işbirliği gerektireceğini söyledi.
Meta sırada ne söylüyor?
Meta, sistemleri ihlal edilen şirketin adını vermedi veya modelin ne gibi değişiklikler yaptığını açıklamadı. Raporlar, modelin hedefin dahili sisteminde değişiklikler yaptığını söyledi. Şirket, ihlalin diğer şirketleri içeren daha önce bildirilen örneklere benzer şekilde meydana geldiğini söyledi.
Bir dizi olay, kendi başlarına eylem yapmak üzere tasarlanan yapay zeka ajanlarının güvenliğine dikkat çekti. Güvenlik araştırmacıları ve yasa koyucular, otonom modeller büyük ölçekte devreye alınmadan önce daha güçlü güvenlik önlemleri ve daha net kurallar çağrısında bulundu.