Pentagon’un Anthropic’a yönelik baskısı giderek artıyor: Amerikan ordusunun teknolojisine, kitlesel gözetim ve tamamen otonom öldürücü silahlar dahil olmak üzere, sınırsız erişim izni vermesi ya da “tedarik zinciri riski” olarak nitelendirilmesi ve yüzlerce milyar dolarlık sözleşmeyi kaybetme tehlikesiyle karşı karşıya kalması isteniyor. Artan kamu açıklamaları ve tehditler arasında, teknoloji çalışanları, kendi şirketlerinin hükümet ve askeri sözleşmelerine bakarak gelecekte inşa ettikleri yapının ne olacağını sorguluyorlar.
Savunma Bakanlığı, Anthropic ile insan denetimi olmaksızın AI hedeflerinin kullanımı gibi koruyucu önlemlerin kaldırılması konusunda haftalardır müzakere ediyor. OpenAI ve xAI’nin bu şartları kabul ettiği bildirildi, ancak OpenAI’nin Anthropic ile aynı sınırları benimsemeye çalıştığı da belirtiliyor. Bu durum, bazı şirketlerdeki çalışanlar arasında ihanet hissi uyandırdı. Amazon Web Services çalışanı, “Teknoloji endüstrisine katıldığımda, teknolojinin insanların yaşamlarını kolaylaştırmakla ilgili olduğunu düşünmüştüm,” dedi. “Ama şimdi her şeyin gözetim, sınır dışı etme ve öldürme işlerini kolaylaştırmakla ilgili olduğu ortaya çıkıyor.”
The Verge ile yapılan görüşmelerde, OpenAI, xAI, Amazon, Microsoft ve Google’dan mevcut ve eski çalışanlar, şirketlerinin değişen etik manzarası hakkında benzer hisler paylaştı. Amazon, Google, Microsoft ve diğerlerini temsil eden 700.000 teknoloji işçisini kapsayan organize gruplar, şirketlerden Pentagon’un taleplerini reddetmelerini talep eden bir mektup imzaladı. Ancak çoğu, işverenlerinin, ister bu çatışmaya doğrudan dahil olsunlar ister olmasınlar, hükümeti sorgulama veya karşı çıkma olasılığının düşük olduğunu gördü.
“Onların perspektifinden, bir yandan para kazanmak istiyorlar, diğer yandan bunun hakkında konuşmak zorunda kalmak istemiyorlar,” diyen bir Microsoft yazılım mühendisi, düşüncelerini açıkladı.
Şu ana kadar, Anthropic pozisyonunu korudu. Anthropic CEO’su Dario Amodei, Pentagon’un tehditlerinin pozisyonlarını değiştirmediğini belirterek, “İyi niyetle onların isteklerine boyun eğemeyiz” dedi. Ancak gelecekte öldürücü otonom silahlara karşı olmadığına, sadece bugünün teknolojisinin yeterince güvenilir olmadığına vurgu yaptı. Amodei, aynı zamanda bu sistemlerin güvenilirliğini artırmak için Savunma Bakanlığı ile “Araştırma ve Geliştirme” ortaklığı yapmak istediğini belirtti, ancak bu teklif kabul edilmedi.
Bununla birlikte, son birkaç yılda, büyük teknoloji şirketleri, karlı hükümet veya askeri sözleşmelere geçmek için kurallarını gevşetti veya misyon bildirimlerini değiştirdi. 2024’te OpenAI, hizmet şartlarından “askeri ve savaş” kullanımı kısıtlamasını kaldırdı; ardından otonom silah üreticisi Anduril ile bir anlaşma imzaladı ve son olarak Pentagon ile bir sözleşme imzaladı. Bu hafta içinde, Anthropic, rekabetçi kalmak adına uzun süredir öne çıkan güvenli ölçeklenme politikasını değiştirdi. Amazon, Google ve Microsoft gibi büyük teknoloji oyuncuları da, kamuoyundaki ve çalışanlar arasındaki artan tepkilere rağmen, AI ürünlerinin savunma ve istihbarat kurumları tarafından kullanılmasına izin verdiler.
Geçtiğimiz yıllarda, teknoloji çalışanlarının, toplumun genelini olumsuz etkileyen anlaşmalara ve ortaklıklara karşı direnişleri bazen büyük değişimlere yol açtı. Örneğin, 2018’de, on binlerce Google çalışanı, şirketin Pentagon ile olan “Proje Maven” ortaklığını sona erdirmek için başarılı bir baskı yaptı. Microsoft çalışanları, yönetim kuruluna 500’den fazla Microsoft çalışanının imzaladığı anti-ICE bir dilekçesi sundu. Ancak Microsoft, ajansla hala çalışmaya devam ediyor. 2020’de ise George Floyd’un öldürülmesinin ardından, teknoloji şirketleri, Black Lives Matter hareketine destek açıklamaları yaptılar. Ancak son aylarda sektör, çok farklı bir gerçeklikle karşı karşıya kaldı: korku ve sessizlik kültürü, özellikle Trump yönetimi ve ICE ile işbirliği çerçevesinde teknoloji çalışanları arasında yaygın bir kanaat haline geldi.
Şirketler, uzun süreli gözetim ve askeri teknoloji ortaklıklarının peşinden gitmeye başladı. Peter Thiel’in kurucularından biri olduğu Palantir bu durumu pekiştiriyor; CEO’su Alex Karp, yatırımcılara “Palantir, işbirliği yaptığımız kurumları en iyi hale getirmek ve gerektiğinde düşmanları korkutmak ve bazen de öldürmek için buradayız” dedi.
OpenAI, Google, Microsoft, xAI ve Amazon, yorum taleplerine hemen yanıt vermedi.
Eski bir xAI çalışanı, “Herkes şu anda öldürücü robotlar üzerinde çalışıyor,” diyerek, hükümetin bakış açısının bu işbirliklerini zorunlu kıldığını belirtti. “Askeri ile çalışmaya büyük bir yönelim var ve bu yapılıyor gibi görünmek hoş bir şey… Eğer yaparsanız, bir vatanseversiniz.” dedi.
Bir Google çalışanı ise durumu “Hegseth’ten bir baskın gösterisi” olarak nitelendirerek, AI’nin bize kim olmak istediğimiz ve hangi tür bir toplumda yaşamak istediğimiz konusunda seçimler sunduğunu belirtti. “Bunlar hızla geliyor ve hayal edebileceğimiz en az düşünceli ve ilkeli liderlerle birlikte.” diye ekledi. Anthropic’a, insani bir dünyaya ve insani bir geleceği şekillendirmek için kullandıkları etkilerini korudukları için teşekkür etti.
AWS çalışanı, “Büyük teknoloji şirketlerinin hangi müşterilerle çalışmaya istekli olduğu konusunda kesinlikle sınırlar erozyona uğradı” diyerek, yeni karlı anlaşmaların sonuçları hakkında örtbas edici bir tavır sergilendiğini belirtti. Yakın zamanda, bir AWS yöneticisinden, ABD Hava Kuvvetleri ile yapılan 580 milyon dolardan fazla bir sözleşmenin Amazon’un AI başarılarının bir işareti olarak duyurulduğu bir e-posta aldı. Bu e-postada geniş kapsam veya yaratabileceği zararlar hakkında herhangi bir farkındalık yoktu.
“Eğer hükümet bu tür teknolojileri sürdürmekte ısrar ediyorsa, bunları kendileri inşa etmeli ve bu kararların sorumluluğunu üstlenmelidir.” dedi.
Bu erozyon, dahili kültürü de etkiliyor gibi görünüyor; gözetim altında olunması gereken bir anlayışı normalleştiriyor. AWS çalışanı, kendisi ve meslektaşlarının, AI kullanımlarını, ofiste çalışma sıklıklarını ve daha fazlasını izlediğini ifade etti. “İşimdeki gözetim konusunda daha duygusuz hale geldiğimi görmeye başlıyorum ve bu, çok fazla muafiyet gösterip compliance sağlayabilecek anlamına geliyor.” dedi.
OpenAI çalışanı, son birkaç hafta içinde AI endüstrisinde genel hissin “değerler ve teknolojinin geleceği üzerine daha fazla tartışmaya kapı açtığını” söyledi. Pentagon-Anthropic durumu, ICE’nin son gazeteleri ve AI’nin hızlı ilerleyişinin iç tartışmaları ateşlediği ana faktörler olduğunu dile getirdi.
Yine de, göçmen olan veya daha savunmasız pozisyonda bulunan kişilerin konuşmaktan korktuğu ifade edildi.
Anthropic, eski bir xAI çalışanına göre, “hayır” diyebilecek ve yine de ayakta kalabilecek bir konumda gibi görünüyor. Tüketime değil işletmelere odaklanması, devlet sözleşmelerine ihtiyaç duymadan sürdürülebilir olmasını ve dolayısıyla bazı esneklik kazanmasını sağlıyor. Microsoft’tan bir yazılım mühendisi, Anthropic hakkında,“Bir ilkenin üzerinde durduğunu görmek beni şaşırttı.” dedi ve bunun ne kadar süreceği konusunda herhangi bir tahminde bulunmadı.
“Bu sürebilir mi?” sorusu herkesin dilinde. Pentagon, Boeing ve Lockheed Martin gibi iki büyük savunma müteahhidiyle Anthropic’ın Claude üzerindeki bağımlılıkları hakkında bilgi talep etti. Böylece, Anthropic’ı “tedarik zinciri riski” olarak nitelendirmeyi düşünüyor; bu durum genellikle ulusal güvenlik tehditlerine ayrılıyor ve Amerika Birleşik Devletleri şirketlerine nadiren veriliyor. Ayrıca, Pentagon’un, Anthropic’ın taleplerine uyması için Savunma Üretimi Yasası’nı uygulamayı düşündüğüne dair haberler var.
Diğer AI şirketlerinde yaşandığı gibi, Anthropic de pes ederse, Microsoft çalışanı, silahlı robotlar ve gözetimden geri adım atma olasılığının düşük olduğunu düşünüyor. “Savunma Bakanlığı ile bir kapıdan içeri girdiğinizde, söyledikleri denetimdendir.” diye ekliyor. “Bununla birlikte, ortada kendi kendilerini yönetmek için yeterinden fazla kârlı bir şey yapma iznine sahip olmalılar.”
Microsoft’un kendi durumu için, etik prensiplerine sadık kalmasını beklemediğini ifade etti. Şirket, Filistinlilerin ve muhaliflerin kitlesel gözetimi için büyük ölçüde İsrail Savunma Kuvvetleri ile çalıştı. (Geçen yıl, ortaklığın bazı bölümlerini sonlandırdığını belirtti.)
Bir başka Microsoft çalışanı, “Microsoft’un Sorumlu AI taahhüdü olmasına rağmen, şu anda anlamlı bir Sorumlu AI taahhüdü yerine kâr amacı güden bir iki yönlü yaklaşım sergiledikleri” şeklinde açıkladı.
Ancak bu yeni bir durum değil, diyen bir AI girişimi çalışanı, “Şirketlerin teknolojilerini hangi tür şeylere olanak tanıyacağı konusunda sınırları her zaman “bulanık” olmuştur” dedi. “Bu, AI’nin var olduğu süreden beri yüzeyin altında olan bir durumdu.”
AWS çalışanı, “Artık her zamankinden daha fazla, teknoloji işçilerinin dayanışmasına ve AI için işçi liderliğinde koheren bir vizyona ihtiyacımız var,” dedi.
“Anthropic’ın korumaya çalıştığı güvenlik önlemleri, Amerikalıların kitlesel gözetimi ve tamamen otonom silahlarla ilgili olmamaları gerektiğidir. Bu, bir makine birini öldürecekse, insan faktörünün devrede olması gerektiği anlamına gelir.” dedi. “Bu teknoloji mükemmel olsa dahi – ki değildir – çoğu Amerikalı, yeni ortaya çıkan AI destekli bir kitlesel gözetim devletinde insan denetimi olmaksızın insan öldüren makineler istemiyor.”
