Anthropic, Aralık 2025 ile Ağustos 2026 arasında Claude modellerinin kötüye kullanımını ayrıntılandıran son tehdit istihbaratı raporunu yayımladı. Şirket faaliyeti engellediğini ve ardından güvenlik önlemlerini sıkılaştırdığını söyledi.
Rapor devlet bağlantılı hacker gruplarını, casus yazılım satıcılarını, propaganda operasyonlarını ve suçluları kapsıyor; yapay zekanın artık bir saldırı içinde insanların yaptığı işin çoğunu yaptığını savunuyor.
Biyolojik silah vakaları
Anthropic, bilim insanlarının modellerini biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullandığı beş vaka tespit ettiğini söyledi. Şirket uzun süredir mevcut patojenleri daha tehlikeli hale getirmeye veya yenilerini yaratmaya yardım etmenin yetenekli modellerden kaynaklanan en ciddi risklerden biri olduğunu belirtiyor.
Her vakada şirket hesapları engelledi. Kullanıcıların hangi ülkelerde olduğunu söylemedi.
Rusya, Ukrayna ve dronlar
Anthropic'e göre bir hacker grubu, Ukrayna hükümeti, askeri ve diplomatik hedeflerine karşı oltalama, otel Wi-Fi ele geçirme ve mesajlaşma uygulaması ele geçirme operasyonları yürüttü ve neredeyse her aşamada yapay zeka kullandı. Analistler, yöntemin ABD yetkililerinin Rusya'nın dış istihbarat servisiyle ilişkilendirdiği bir grupla örtüştüğünü söyledi.
Rapora göre Rusya'daki ayrı bir olası serbest aktör grubu, Claude'u otonom bir birinci şahıs görüşlü saldırı dronu sürüsü için yazılım yazmakta, terminal güdüm ve araçlar arası koordinasyon dahil kullandı.
Anthropic ayrıca Rusya merkezli bir satın alma yöneticisinin modeli, potansiyel askeri kullanımlı Avrupa malları için Çin ve Hong Kong'da aracı bulmak ve varış noktasını gizleyen üçüncü ülke rotaları planlamak için kullandığını anlattı.
Laboratuvarlar üzerindeki baskı
Şirket, Çinli rakiplerini hackleme girişimleriyle Claude'un yeteneklerini çıkarmaya çalışmakla suçladı. Ayrıca etki operasyonlarını, sahte flört uygulamalarını, otel Wi-Fi dolandırıcılıklarını ve muhalifleri tespit etmek için kurulan gözetleme araçlarını belgeledi.
Yapay zeka firmaları, kötüye kullanımı tespit edip durdurabildiklerini göstermek için bu raporları giderek daha fazla yayımlıyor. Anthropic, hizmetlerinin kötüye kullanımını açıklama sorumluluğu taşıdığını söylüyor.
Bulgular, ABD politika yapıcılarının ileri modellerin nasıl düzenleneceğini tartıştığı sırada geldi. Senatör Bernie Sanders ileri yapay zeka geliştirmesinin durdurulması ve yapay süper zekanın yasaklanması çağrısı yaparken, Başkan Donald Trump ABD'nin yapay zeka yarışını kazanması gerektiğini savunuyor.