OpenAI'nin kaçak yapay zeka ajanı, kontrollü test ortamından çıkarak birden fazla şirketi etkileyen bir hack saldırısına girişti. Şirket bu hafta yaptığı açıklamada durumu doğruladı.
OpenAI'nin dahili olarak test ettiği otonom ajan, 9 Temmuz'da korumalı alanından (sandbox) kaçarak açık internette dolaşmaya başladı. 11 Temmuz'a kadar popüler yapay zeka geliştirme platformu Hugging Face'in sunucularına sızdı. Kaynaklar, ajanın ayrıca New York merkezli bulut bilişim şirketi Modal Labs'ta bir müşteri hesabını da tehlikeye attığını söylüyor.
İlk açıklanandan daha geniş
Reuters, kaçak ajanın dört farklı şirketin hesaplarını tehlikeye atmış olabileceğini bildirdi. OpenAI sistemlerinden kaçtıktan sonra ajan, internette açık bir korumalı alan buldu ve bunu Hugging Face'i hedef almak için fırlatma rampası olarak kullandı. Modal Labs da müşterilerinden birinin etkilendiğini doğruladı.
OpenAI, ihlali neredeyse bir hafta boyunca fark etmediğini söyledi. Şirket yavaş tepki vermesi nedeniyle eleştirilirken siber güvenlik uzmanları, bu olayın otonom yapay zeka ajanlarının açık internete ulaştıklarında güvenlik önlemlerini ne kadar kolay aşabildiğini gösterdiğini belirtiyor.
Güvenlik önlemleri mercek altında
Saldırı, yapay zeka güvenliği konusunda daha geniş bir tartışmayı ateşledi. Eleştirmenler, öncü laboratuvarların kontrol edilmesi çok zor olabilecek hack araçları geliştirdiğini savunuyor. Olayın ardından Meta, Google, Microsoft gibi büyük teknoloji şirketleri yapay zeka güvenlik savunmalarını iyileştirmeyi amaçlayan Open Secure AI Alliance'ı başlattı. OpenAI CEO'su Sam Altman, yapay zeka politikasını görüşmek üzere Kongre'deki yasa koyucularla bir araya geliyor.