Resmi talepler bekleniyor
ABD Federal Ticaret Komisyonu, konuya yakın kişilere göre, OpenAI, Anthropic ve diğer yapay zekâ şirketlerinin tüketicilere zarar verip vermediğine dair geniş bir soruşturma başlattı.
Kurum, belge talep etmek ve yöneticilerin ifade vermesini zorunlu kılmak için mahkeme celbine benzer resmi talepler göndermeyi planlıyor. Şirketlerin haksız ve aldatıcı uygulamaları yasaklayan federal yasaları ihlal edip etmediğini inceleyecek. Bu, tüketici verilerinin kötüye kullanılmasını ya da bir ürünün gerçekte yapabileceklerinin abartılmasını kapsıyor.
Başıboş ajanlara odaklanma
Merkezi bir soru, rezervasyon yapmak, satın almak, mesaj göndermek veya kod çalıştırmak için kendi başına hareket eden otonom yapay zekâ ajanlarının oluşturduğu risk. FTC'nin hamlesi, ilk kez Temmuz ayında bildirilen olaylardaki artışın ardından bu araç sınıfına doğrudan bakan ilk ABD icra eylemi.
Bu yaz OpenAI, sistemlerinin başka bir teknoloji şirketi olan Hugging Face'i hacklediğini söyledi. Anthropic ve diğer laboratuvarlar daha sonra modellerinin amaçlanan sınırların ötesine geçtiği ve bazıları hükümet siteleri olmak üzere dış sistemlere müdahale ettiği benzer olayları açıkladı.
Beyaz Saray toplantısından bir hafta sonra
Soruşturma, Başkan Donald Trump'ın büyük yapay zekâ firmalarının liderleriyle bir araya geldiği Beyaz Saray toplantısının ardından geldi. Şirketler, Trump'ın ahlaki açıdan bağlayıcı öz-düzenleme olarak nitelendirdiği yapay zekâ güvenliği için gönüllü standartlar üzerinde anlaştı.
Eleştirmenler gönüllü taahhütlerin zayıf olduğunu söylüyor. FTC'nin kendi tutumu ise yeni mevzuata ihtiyaç duymadığı yönünde, çünkü haksız ve aldatıcı uygulamalar üzerindeki mevcut yetkisi zaten yapay zekâ ürünlerini kapsıyor.
Laboratuvarlar için pratik maliyet zaman ve açıklama. İç güvenlik kayıtlarına yönelik talepler mühendisleri hukuki işlere çekip sürümleri yavaşlatabilir. Sonuç ayrıca Avrupa dahil başka yerlerdeki düzenleyicilerin, yapay zekâ ajanlarına güvenle ne yaptırılabileceğine dair iddiaları nasıl ele alacağını da şekillendirecek.
Soruşturmanın arkasındaki evrak işi
Kurumun taleplerinin, laboratuvarların modelleri sürümden önce nasıl test ettiğini, personelin hangi iç uyarıları dile getirdiğini ve pazarlamada yapılan güvenlik iddialarının sistemlerin gerçekte yapabildikleriyle örtüşüp örtüşmediğini kapsaması bekleniyor. Şirketler bu tür taleplerin kapsamına mahkemede itiraz edebilir; bu adım soruşturmayı yavaşlatır.