Son iki haftada Anthropic’in CEO’su Dario Amodei ile Savunma Bakanı Pete Hegseth arasında, askeri alanda yapay zeka kullanımı konusundaki çatışmalar ön plana çıktı.
Anthropic, yapay zeka modellerinin Amerikalıların kitlesel izlenmesi veya insan müdahalesi olmadan otomatik kararlarla saldırılar düzenleyen silahlarda kullanılmasına karşı çıkıyor. Hegseth ise Savunma Bakanlığı’nın bir tedarikçinin kuralları ile sınırlı kalmaması gerektiğini, teknolojinin “yasal kullanımlarının” serbest bırakılması gerektiğini savunuyor.
Perşembe günü Amodei, Anthropic’in geri adım atmayacağının sinyalini verdi; bununla birlikte, şirketinin bir tedarik zinciri riski olarak değerlendirilmesi tehdidiyle karşı karşıya. Ancak hızlı gelişen haber döngüsünde, bu mücadelenin arka planını yeniden değerlendirmek önemli hale geliyor.
Bu mücadelenin temelinde, güçlü yapay zeka sistemlerinin kontrolünün kimin elinde olacağı yatıyor: Bunları geliştiren şirketler mi, yoksa bunları kullanmak isteyen hükümet mi?
Anthropic Neden Endişeli?
Anthropic, yapay zeka modellerinin kitlesel izleme veya insansız hedef belirleme ve ateş etme kararları alan otomatik silahlarda kullanılmasını istemiyor. Geleneksel savunma kontratörlerinin ürünlerinin nasıl kullanılacağı konusunda pek sözü olmazken, Anthropic, yapay zeka teknolojisinin özel riskler taşıdığını ve dolayısıyla özel güvenlik önlemleri gerektirdiğini savunuyor. Şirketin perspektifinden bakıldığında, bu güvenlik önlemlerinin askeri alanda nasıl korunacağı sorusu önemli bir kafa karışıklığı oluşturuyor.
ABD askeri zaten yüksek derecede otomatik sistemler kullanıyor, bunlardan bazıları ölümcül. Ölümcül güç kullanma kararı históric olarak insanlara bırakılmıştı, ancak otonom silahların askeri kullanımına dair çok az yasal kısıtlama mevcut. Savunma Bakanlığı, tamamen otonom silah sistemlerini yasaklamıyor. 2023 DOD yönergesine göre, yapay zeka sistemleri, belirli standartları karşıladığı ve üst düzey savunma yetkilileri tarafından incelendiği sürece insan müdahalesi olmadan hedefleri seçip angaje edebilir.
Bu durum, Anthropic’i neden endişelendirdiğini açıklıyor. Askeri teknoloji doğası gereği gizli olduğundan, eğer ABD askeri ölümcül karar alma süreçlerini otomatikleştiriyorsa, bunu güncel hale gelene kadar bilemeyebiliriz. Eğer Anthropic’in modellerini kullanıyorsa, bu durum “yasal kullanım” olarak değerlendirilebilir.
Anthropic, bu tür kullanım alanlarının tamamen kapalı kalmasını istemiyor; fakat mevcut modellerinin bu tür kullanımlar için yeterince güvenli olmadığını savunuyor. Yanlış hedef belirleyen, insan onayı olmadan çatışmayı tırmandıran veya geri alınması mümkün olamayan ölümcül bir karar veren bir otonom sistem hayal edin. Daha az yetenekli bir yapay zekayı silahların yönetimine koyarsanız, yüksek riskli kararlar vermekte kötü bir makine ile karşılaşabiliriz.
Yapay zeka, yasal olan Amerikalıların gözetimini de endişe verici şekilde artırma potansiyeline sahip. Mevcut ABD yasaları altında, Amerikalıların gözetimi zaten mümkündür; bu, metin, e-posta ve diğer iletişimlerin toplanmasıyla gerçekleşir. Yapay zeka bu durumu, büyük ölçekli otomatik kalıp tespiti ile, veri kümeleri arasında varlık çözümlemesi, tahmin İçin risk puanlaması ve sürekli davranış analizi gibi olanaklar sunarak değiştiriyor.
Pentagon Ne İstiyor?
Pentagon’un görüşü, Anthropic’in teknolojisinin yasal olarak gerekli gördüğü her alanda kullanılabilmesi gerektiği yönünde. Hegseth, Savunma Bakanlığı’nın bir tedarikçinin kurallarına bağlı olmaması gerektiğini belirtti.
Pentagon’un baş sözcüsü Sean Parnell, perşembe günü yaptığı bir paylaşımda, bakanlığın kitlesel iç gözetim yapma veya otonom silahlar kullanma niyetinde olmadığını ifade etti.
Parnell, “İşte istediğimiz: Pentagon’un Anthropic’in modelini tüm yasal amaçlar için kullanmasına izin verin,” dedi ve ekledi: “Bu, Anthropic’in kritik askeri operasyonları tehlikeye atmasını önleyecek basit bir istektir.” Ayrıca, Anthropic’e 5:01 PM ET Cuma gününe kadar karar verme süresi tanıdıklarını açıkladı.
Savunma Bakanlığı, bir şirketin kullanım politikalarına bağlı kalinmaması gerektiğini savunsa da, Hegseth’in Anthropic’e dair endişelerinin zaman zaman kültürel bir anlaşmazlıkla bağlantılı gibi göründüğü belirtiliyor.
Hegseth, “Savaş Bakanlığı yapay zekası woke olmayacak,” dedi. “Biz savaş için hazır silahlar ve sistemler inşa ediyoruz, elit üniversite hocaları için sohbet robotları değil.”
Peki Şimdi Ne Olacak?
Pentagon, ya Anthropic’i “tedarik zinciri riski” olarak değerlendirme tehdidinde bulundu ya da şirketin modelini askeri ihtiyaçlarına göre uyarlamak için Savunma Üretim Yasası’nı (DPA) uygulamak istediğini belirtti. Hegseth, Anthropic’e yanıt verme süresinin 5:01 PM Cuma olduğunu söyledi. Ancak, son tarih yaklaştıkça, Pentagon’un tehdidini uygulayıp uygulamayacağı belirsizliğini koruyor.
İki tarafın da kolayca geri adım atabileceği bir çatışma değil. Savunma teknolojileri üzerine odaklanan Trousdale Ventures’tan VC Sachin Seth, bir tedarik zinciri riski etiketinin Anthropic için “ışıkların kapanması” anlamına gelebileceğini belirtti. Öte yandan, Anthropic’in DOD’dan düşmesi, ulusal güvenlik sorunu yaratabileceği ifade ediliyor.
Seth, “Bakanlık, OpenAI veya xAI’nın altı ay ila bir yıl içinde hızını yakalamasını beklemek zorunda kalacak. Bu, onları en iyi modelle değil, ikinci veya üçüncü en iyi olanla çalışmaya yönlendirebilir,” dedi.
xAI, Anthropic’i geçmek üzere sınıflandırmaya hazırlanıyor ve Elon Musk’ın sözleri, şirketin DOD’ya teknoloji üzerinde tam kontrol vermekte bir sakınca görmeyeceğini düşündürüyor. Son raporlar, OpenAI’nın da Anthropic ile aynı sınırları çizeceğini gösteriyor.
