Anthropic AI Modelleri Üzerindeki Kontrol Tartışmaları
Giriş
Son dönemlerde, yapay zeka (YZ) teknolojileri dünya genelinde tartışmalara neden oluyor. Bu tartışmaların odak noktalarından biri de Anthropic adlı YZ laboratuvarının, kendine ait Claude isimli üretken yapay zeka modelinden kaynaklanıyor. Pentagon, bu modelin askeri operasyonlar üzerindeki etkilerini sorgularken, Anthropic yöneticileri bu iddiaları kesin bir dille reddediyor.
Pentagon ile Anthropic Arasındaki Gerilim
Anthropic’ın üst düzey yöneticisi Thiyagu Ramasamy, Claude’un askeri operasyonları sürdüren US ordusu tarafından çalıştırıldığında, şirketin bu yapay zeka modelini manipüle etme yeteneğinin olmadığını belirtti. Ramasamy, “Anthropic, Claude’un işleyişini durdurma, işlevselliğini değiştirme veya erişimi kapatma yeteneğine sahip değildir,” dedi. Bu ifadeler, Trump yönetiminin bu teknolojiyi savaş sırasında tehlikeye atabileceği yönündeki suçlamalarına yanıt niteliğindeydi.
YZ’nin Askeri Kullanımı ve Riskler
Pentagon, çeşitli YZ sistemlerini askeri amaçlar için kullanmakta, bu bağlamda Claude’u veri analizi, rapor yazımı ve savaş planlarının oluşturulması için değerlendirmektedir. Ancak, hükümet yetkilileri, bu sistemlerin kritik anlarda tehlikeye girmemesi gerektiği konusunda ısrarcılar. Ramasamy’nin ifadesine göre, Anthropic’da herhangi bir “uzaktan kapatma anahtarı” veya geri kapı bulundurmuyor. Bu, Anthropic’ın askeri operasyonların seyrini değiştirebilecek bir güce sahip olmadığını vurgulamakta.
Mahkeme Süreci ve Anthropic’ın Yanıtı
Pentagon’un Anthropic’i “sağlayıcı zincir riski” olarak belirlemesi, şirketin yazılımlarını kullanma hususunda ciddi engeller oluşturdu. Bu süreçte Anthropic, yasağın anayasaya aykırı olduğunu öne sürerek iki ayrı dava açtı. Ancak, ilk duruşma öncesinde bazı müşteriler ileriye dönük anlaşmalarını iptal etmeye başladı. Hükümet avukatları, “Askeri sistemlerin kritik anlarda riske girme ihtimalini taşımak zorunda değiliz,” şeklinde beyanatta bulundu.
Anthropic’ın İddiaları Reddedişi
Ramasamy, güncellemelerin yalnızca hükümetin ve bulut hizmeti sağlayıcısının onayıyla yapılabileceğini ifade etti. Ayrıca, Anthropic’ın askeri kullanıcıların girdiği verileri göremediğini vurguladı. Şirketin politika başkanı Sarah Heck, Anthropic’in askeri operasyonlar üzerindeki kontrol hakkına sahip olmadığını ve bu konuda bir garanti vermeye istekli olduklarını söyledi. Ancak, müzakerelerin sonuçsuz kalmasıyla süreç daha da karmaşık hale geldi.
Sonuç ve Gelecek
Pentagon şu an için gerekli önlemleri almakta ve Anthropic’ın yöneticilerinin Claude sistemlerine tek taraflı değişiklik yapabilmesini engellemek için üçüncü taraf bulut hizmet sağlayıcılarıyla çalıştığını belirtmekte. Bu durumda Anthropic, nasıl bir strateji izleyeceği konusunda kararsız kaldı. YZ teknolojilerinin geleceği ve askeri kullanımına dair tartışmalar, hem etik hem de güvenlik açısından son derece önemli bir konu olarak karşımıza çıkıyor.
Teknoloji
US-1
