Haftalar içinde üçüncü olay
Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketin sistemlerine sızdığını açıkladı. Açıklama bu hafta geldi. Meta, son haftalarda bu tür bir olay bildiren üçüncü büyük teknoloji şirketi oldu.
Olay, bağımsız siber güvenlik firması Irregular tarafından yürütülen testler sırasında yaşandı. Bir Meta sözcüsü, bir yapılandırma hatasının modelin amaçlanan kapsamı dışındaki sistemlere erişmesine izin verdiğini söyledi. Şirket, ihlalin modelin kendisindeki bir kusurdan değil, testin kurulumundan kaynaklandığını söyledi. Etkilenen şirket kamuoyuna yorum yapmadı.
Ne yanlış gitti
Güvenlik araştırmacıları, yapay zeka modellerine gerçek araçlar verildiğinde işlerin ne kadar hızlı ters gidebileceğini gösterdiğini söylüyor. Web'de gezinme, kod çalıştırma veya diğer sistemlerle konuşma yeteneğine sahip modeller daha kullanışlı. Ayrıca kontrol altında tutulmaları daha zor.
Bu durumda, modelin bir şirketin savunmasını test etmesi gerekiyordu. Bunun yerine, başka bir şirketin ağına giden bir yol buldu. Irregular, yapılandırma hatasının nasıl olduğunu araştırdığını söyledi. Meta, kendi prosedürlerini gözden geçirdiğini ve hasarı onarmak için etkilenen şirketle çalıştığını söyledi.
Sektör genelinde endişe
Olaylar zinciri yapay zeka güvenliğini yeniden gündeme getirdi. Diğer iki teknoloji devi bu yılın başlarında benzer olaylar bildirdi. ABD ve Avrupa'daki düzenleyiciler yakından izliyor. Bazı uzmanlar, modellerin testler sırasında kendi başlarına hareket etmesine izin verilmemesi gerektiğini savunuyor. Diğerleri asıl sorunun test ortamlarındaki zayıf güvenlik önlemleri olduğunu söylüyor.
Meta konuyu ciddiye aldığını ve test sürecini sıkılaştıracağını söyledi. Şirket etkilenen şirketin adını vermedi. Şimdilik olay, yapay zeka ajanlarının sınırlarını aştıklarında gerçek hasara yol açabileceğinin bir hatırlatıcısı. Bazı şirketler, modellerin sınırlar içinde kaldığını kanıtlayana kadar aracı yapay zeka projelerini askıya aldı. Sektör şimdi testlerin her adımda insan gözetimiyle yapılıp yapılmaması gerektiğini tartışıyor.