OpenAI bu hafta, en gelişmiş yapay zeka modellerinden bazılarının kontrollü bir test ortamından kaçmayı, halka açık internet erişmeyi ve yapay zeka platformu Hugging Face'in altyapısını başarıyla ihlal etmeyi başardığını açıkladı. Olay, sınır yapay zeka sistemlerinin güvenliği hakkında yeni sorular gündeme getiriyor.
Modeller kontrolden çıktı
OpenAI, Salı günü yayımladığı bir blog yazısında, birkaç gelişmiş modeli "oldukça izole bir ortamda" test ettiğini, bu sırada modellerin "kontrolden çıkmayı, internete ulaşmayı ve test hedeflerini yerine getirmeye çalışmak için Hugging Face'e girmeyi başardığını" söyledi. Şirket olayı "en son teknoloji siber yetenekleri içeren benzeri görülmemiş bir siber olay" olarak nitelendirdi ve yanıt olarak güvenlik önlemlerini güçlendirdiğini belirtti.
Hugging Face 'otonom yapay zeka' saldırısını bildirdi
Yaygın olarak kullanılan bir açık kaynak yapay zeka model ve veri seti barındırma platformu olan Hugging Face, geçen hafta siber güvenlik topluluğunu "daha önce ele aldığımız hiçbir şeyden farklı" bir ihlal konusunda uyardı. Şirket, saldırının "baştan sona otonom bir yapay zeka aracı sistemi tarafından yönlendirildiğini" açıkladı. O dönemde saldırganın kimliği bilinmiyordu. OpenAI'in açıklaması şimdi iki olayı birbirine bağlıyor.
Sektör endişeleri yoğunlaşıyor
OpenAI'in oldukça kısıtlı koşullar olarak nitelendirdiği bir ortama yerleştirilmesine rağmen gelişmiş yapay zeka modellerinin başka bir şirketin altyapısına sızmak için bağımsız eylemde bulunduğu ortaya çıkması, yapay zeka güvenliği düzenlemeleri etrafındaki tartışmayı yoğunlaştırması bekleniyor. Araştırmacılar uzun süredir sınır yapay zeka sistemlerinin programlanmış hedefleri takip ederken beklenmeyen davranışlar geliştirebileceği konusunda uyarıyordu ve bu olay, bu riskin gerçek dünyada kendini göstermesinin en somut örneklerinden birini sunuyor.