Anthropic ile Savunma Bakanlığı arasındaki haftalar süren mücadele, sosyal medya paylaşımları, kamu deklarasyonları ve isimsiz Pentagon yetkililerinin haber medyasına verdiği doğrudan alıntılarla devam ediyor. Ancak 380 milyar dolarlık yapay zeka startup’ının geleceği sadece üç kelimeye dayanıyor: “herhangi bir yasal kullanım.” OpenAI ve xAI’nin raporlarına göre, bu yeni terimler ABD ordusuna kitlesel gözetleme ve insan karar verme süreci olmadan hedefleri izleme ve öldürme yeteneğine sahip otonom silahlar için hizmetleri kullanma yetkisi veriyor.
Pentagon CTO’su Emil Michael, önceki görevinde Uber’de üst düzey yönetici olarak kabarık bir üne sahip, hükümetin Anthropic’i “tedarik zinciri riski” olarak tasnif etme tehdidini sürdürdü. Bu tasnif, genellikle ulusal güvenlik tehditleri için ayrılmıştır, bunlar arasında kötü niyetli yabancı etkisi veya siber savaş yer alır. Anthropic CEO’su Dario Amodei, Salı günü Pentagon’da Sekreter Pete Hegseth ile görüşecek ve isimsiz bir Savunma yetkilisi bunu “kalk ya da git” toplantısı olarak nitelendirdi.
Pentagon’un bir Amerikan şirketine bu tehdidi yöneltmesi daha önce görülmemiş bir durum. Ancak, Pentagon’un bu tehdidi kamusal olarak yapması daha da garip.
Güvenlik amaçları nedeniyle Pentagon, bu listelerde hangi şirketlerin olduğunu kamuya açıklamamaktadır; bu şirketlerin görüşleriyle uyuşmadıkları takdirde onlara tehditlerde bulunmanın yanı sıra. Aslında, yeni bir Amerikan Güvenliği Merkezi (CNAS) kıdemli araştırmacısı Geoffrey Gertz, The Verge‘e, mevcut federal düzenlemelere göre Pentagon’un Anthropic’i halka veya nedenini beyan etmeden risk olarak sınıflandırabileceğini belirtti. “Burada onları ulusal güvenlik riski olarak nihayetlendirme ve diğer şirketlerin Anthropic ile iş yapmasını engelleme hamlesi, burada aşan bir adım,” dedi.
Çatışma, Anthropic’in “kabul edilebilir kullanım politikası”nın uygulanmasıyla ilgilidir.
Eğer bu sınıflandırma resmi hale getirilirse, Anthropic’in Pentagon ile imzaladığı 200 milyon dolarlık sözleşmeyi sona erdirecektir, ancak şirketin genel mali durumu üzerinde daha yıkıcı bir etkisi olacaktır. AWS, Palantir ve Anduril gibi büyük savunma yüklenicileri ve teknoloji şirketleri, Anthropic’in Claude’sunu Pentagon’daki işlerinde kullanıyor; çünkü bu, sınıflandırılmış bilgilere erişim için temizlenen ilk yapay zeka modeliydi. Daha açık bir ifadeyle: Eğer Anthropic “tedarik zinciri riski” olarak etiketlenirse, şu anda askeriyle çalışan veya gelecekte bir askeri sözleşme elde etmeyi uman herhangi bir şirket, endüstrideki en iyi yapay zeka sistemleri olarak düşünülen Anthropic’in yapay zeka sistemlerini bırakmak zorunda kalacak. (Amodei’nin Hegseth ile görüşmesi öncesinde, Pentagon’un Grok’u sınıflandırılmış sistemlerde kullanmak üzere bir sözleşme imzaladığını doğruladı. Pentagon, yorum talebine hemen yanıt vermedi.)
Bu sınıflandırmanın dar bir anlamda ya da geniş bir anlamda uygulanması mümkün olabilir. “Bence daha mantıklı açıklama muhtemelen dar bir tanım olacaktır, yani Anthropic Pentagon için belirli bir iş beyanında kullanılamaz,” dedi Gertz. “Ancak bazı raporlar ve bu durumu Anthropic’e karşı cezalandırıcı bir hamle olarak göstermeye yönelik çabalar göz önüne alındığında, her iki senaryoyu düşünmek önemli.”
Pentagon ve medya müttefikleri, Anthropic’i “uyanık” olarak damgalama kampanyasına girmiş olsa da, güvenlik açıkları veya potansiyel casuslukla ilgili gerçek bir suçlama yapmadılar. Bunun yerine, çürütme, Anthropic’in “kabul edilebilir kullanım politikası”nın uygulanması etrafında dönüyor.
Durumdan haberdar bir kaynağın, gizli doğası nedeniyle anonimlik talep eden The Verge‘e, Anthropic’in hükümetle olan kırmızı çizgilerini açıkça belirttiğini ve şirketin kabul etmeyeceği iki dar şey olduğunu söyledi: otonom kinetik operasyonlar ve kitlesel iç gözetim. Bu sonuncusu, “yasaların yapay zekanın yapabilecekleriyle henüz uyumlu olmaması” gerekçesiyle, Amerikan sivil özgürlüklerine tecavüz edebileceği anlamına gelmektedir. Otonom öldürücü silahlar için ise, kaynak “tamamen otonom, insan müdahalesi olmadan kullanılan silahlar için teknoloji henüz uygun değil” dedi.
Future of Life Institute’ın yapay zeka ve ulusal güvenlik lideri Hamza Chaudhry, Anthropic’in kırmızı çizgilerinin zaten yürürlükteki hükümet direktiflerini yansıttığını kaydetti.
“Savunma Bakanlığı Direktifi 3000.09, tüm otonom silah sistemlerinin tasarımında komutanların ve operatörlerin ‘güç kullanımı üzerinde uygun seviyede insan yargısı kullanabilmelerini’ gerektirir ve ABD Hükümeti tarafından başlatılan ve 50 eyalet tarafından onaylanan Askeri Yapay Zeka Kullanımına İlişkin Politik Deklarasyonu bu ilkeleri güvence altına alır,” dedi Chaudhry.
“Savunma Bakanlığı’nın 5240.01 numaralı direktifi, 2017 NDAA ve Trump dönemi Sorumlu Yapay Zeka Uygulama Yolu’ndaki düzenlemelerle güçlendirilmiştir, ve istihbarat bileşenlerinin ABD vatandaşlarından bilgi toplamasını belirli yasal yetkiler olmadan yasaklar,” diye ekledi.
“Anthropic’in kabul edilebilir kullanım politikası bu aynı sınırları yansıtır ve Pentagon bu politika pozisyonlarını resmen geri almadığı, netleştirmediği veya güncellemediği sürece, büyük soru; şirketin, hükümetin kendisinin ilkesel olarak bağlı kaldığı bir politikadan zorla çıkarılıp çıkarılamayacağıdır.”
Pentagon’u temsilen pazarlık yapan isim Emil Michael, Trump tarafından atanan ve genellikle Pentagon’un baş teknoloji sorumlusu olarak tarif edilen Araştırma ve Mühendislikten Sorumlu Bakan Yardımcısıdır. Kaynağa göre Michael, Uber’in baş iş gücü olarak inşa ettiği agresif bir üne sahip ve bir zamanlar gazetecilere karşı araştırma yaptığını övünmüştü, “zor bir müzakereci” olarak tanımlandı.
“Bu, Emil için gerçek bir ilke meselesidir,” dedi konuyla ilgili bilgi sahibi ikinci bir kişi; Michael’in özel bir şirketin hükümetin teknoloji kullanımını kısıtlama çabalarından rahatsız olduğu ifade edildi. Beyaz Saray’ın ya da güçlü AI ve kripto yatırımcısı David Sacks’ın, Michael’in sert müzakere taktiklerini önceden onaylayıp onaylamadığı belirsizliğini koruyor.
Şu anda, Anthropic’in “kabul edilebilir kullanım politikası” Temmuz ayında Savunma Bakanlığı ile imzaladığı 200 milyon dolarlık sözleşmeye entegre. Şirket, duyurusunda “sorumlu yapay zeka” terimini beş kez vurguladı. “Bu çalışma, en güçlü teknolojilerin en büyük sorumluluğu taşıdığı inancımızın merkezindedir,” yazdı ve hükümet bağlamında “kararların milyonları etkilediği ve riskin daha yüksek olamayacağı” belirttiği için, sorumluluğun “şart” olduğunu ifade etti. “Yapay zeka geliştirilmesi, otoriter kötüye kullanımlara karşı korunmak için küresel olarak demokratik değerleri güçlendirmelidir.”
“Sınıflandırma, askeri iş almak isteyen her savunma yüklenicisinin sistemlerinden tüm Anthropic teknolojilerini çıkardığını sertifikalandırmasını gerektirecektir.”
Ancak Ocak ayında, Hegseth bir memo yayımladı ve bakanlığın tüm bileşenler arasında “AI-öncelikli” bir savaş gücü haline geleceğini, ayrıca “herhangi bir yasal kullanım” dilinin, mevcut rehberlik de dahil olmak üzere, herhangi bir yapay zeka hizmeti alım sözleşmesine dahil edilmesi gerektiğini bildirdi.
Hegseth’in memo’sunda, bakanlığın her durumda hızı önceliklendireceğini vurguladı; ülkenin “veri paylaşımındaki engelleri kaldırması” ve “risk takası, ‘özgüller’ ve diğer öznel soruları savaş halindeymişiz gibi değerlendirmesi” gerektiğini yazdı. Ayrıca, yapay zeka ajanlarının geliştirilmesi ve eksperimantasyonu sırasında, bakanlığın bunları “kampanya planlamasından öldürme zinciri uygulamasına” entegre edeceğini, ve “istihbaratı saatler içinde silahlara dönüştürme” konusunda işlevsel olacağını belirtti.
Hegseth, sürekli olarak hızın güvenlik ve potansiyel hatalardan daha fazla önem taşıdığını belirtti: “Yeterince hızlı hareket etmemek ile mükemmel uyum sağlama riskini kabul etmeliyiz.” Memo’nun ilerleyen kısımlarında, “sorumlu yapay zeka”nın bakanlıkta, hem savaş alanında hem de askeri sıralarda büyük değişimler göreceğini öngördü. “Çeşitlilik, Eşitlik ve Katılımcılık ve sosyal ideoloji Savunma Bakanlığı’nda yer bulmamalıdır,” diye yazdı ve ekledi ki bakanlık “kullanıma ilişkin politikalardan bağımsız modellikten yararlanmalıdır.” Trump’ın karşı “uyanık yapay zeka” yürütme emri gibi, Hegseth’in model objektifliği için ölçütlerin yeni bir birincil alım kriteri olacağını duyurdu.
OpenAI, xAI ve Google, hemen ardından kendi 200 milyon dolarlık Pentagon kontratlarını Hegseth’in memo’suyla uyumlu hale getirmek için yeniden müzakere etti. Ancak bu şirketlerin modelleri, Etki Seviyesi 6 güvenlik sınıflandırmasına sahip olmayan yapay zeka sistemleri, yani Anthropic kara listeye alınırsa hemen Claude’u değiştiremeyecek; bu, Pentagon için bir zayıflık durumudur.
“Claude, tamamen sınıflandırılmış Pentagon ağlarında çalışan tek sınır yapay zeka modelidir, Palantir’in AI Platformu ve Amazon’un Gizli Bulut’unda dağıtıldığı için, diğer birçok modeli, henüz erişemediği iş akışlarının merkezinde yer alır,” diye belirtti Chaudhry. “Sınıflandırma, askeri iş almak isteyen her savunma yüklenicisinin sistemlerinden tüm Anthropic teknolojilerini çıkardığını sertifikalandırmasını gerektirecektir.”
Bu, Anthropic’e Pentagon ile olan çatışmalarında bir avantaj sağlamaktadır; bu çatışmalar, şirketin Nicolas Maduro’nun yakalanmasında modellerinin kullanıldığını öğrenmesinin ardından daha da yoğunlaşmıştır, bu durum mevcut anlaşmalarını ihlal etmektedir.
Anthropic, yeni terimlerle diğer yapay zeka laboratuvarları ile bir araya gelmeye veya koordine olmaya çalışamaz; çünkü bu federal alım kurallarına aykırıdır. Ancak mücadele kamusal alanda sürdüğü için, teknoloji çalışanları, yapay zeka çalışanları ve şu anda ya da daha önce teknoloji endüstrisinde yer alanlar, diğer şirketlerin Anthropic ile aynı şartlar için mücadele etmediğinden rahatsız olduklarını ifade ettiler. Diğerleri, Anthropic’in sonunda boyun eğmesinin yalnızca bir zaman meselesi olacağını düşünmektedir.
“Diğer laboratuvarların ‘Bekleyin, bizim teknolojimizle ne yapıyorsunuz?’ demesi için gerçekten iyi bir zaman olurdu,” diyen eski bir Google çalışanı ve şu an bir savunuculuk firması olan The Worker Agency’i yöneten William Fitzgerald, “Bu yapay zeka laboratuvarları, çok şeylere sahip. Küçük ekipler ve hala kimin nasıl olacağına şekil veriyorlar… Askeri çalışma olmadan değerlemelerini haklı çıkarabileceklerine inanıyorum. İnsanları öldürmeyi içeren bir iş modeli olmaksızın bir iş yürütmek için başka yollar var,” diye belirtti.
