Anthropic, Pazar günü Savunma Bakanlığı’na karşı dava açarak, kendisinin bir tedarik zinciri riski olarak belirlendiği gerekçesiyle hukuki süreç başlattı. Davadan birkaç saat sonra OpenAI ve Google’dan yaklaşık 40 çalışan, bu davayı destekleyen bir amicus brief (dost görüşü) sundu. Bu grup, Trump yönetiminin kararından duydukları endişeleri ve teknolojinin olası risklerini detaylandırdı.
Bu gelişme, Trump yönetimi tarafından Anthropic’e tedarik zinciri riski tanımlanmasının ardından yaşanan çalkantılı haftaların bir parçası. Yönetim, Anthropic’in kendi teknolojisinin askeri kullanımıyla ilgili iki kritik kırmızı çizgiyi aşmaması üzerine bu kararı aldı: iç kitle gözetimi ve tamamen otonom silahlar. Görüşmelerin çökmüş olmasının ardından, başka yapay zeka şirketleri, teknolojilerini “her türlü yasadışı kullanıma” izin verecek şekilde kullanmalarına olanak tanıyan sözleşmeleri imzalamaya yöneldi.
Tedarik zinciri riski tanımı, Anthropic’in askeri sözleşmeler üzerinde çalışmasını engellemekle kalmıyor, aynı zamanda Pentagon’la çalışırken Anthropic ürünlerini kullanan diğer şirketlerin de kara listeye alınmasına neden oluyor. Bu durum, bu firmaları, kârlı sözleşmelerini sürdürmek istediklerinde Claude’u sistemlerinden çıkarmaya zorlamakta. Ancak Anthropic, sınıflandırılmış istihbarat için onaylanan ilk model olarak, Pentagon’un çalışmalarına derinlemesine entegre olmuş durumda. Savunma Bakanı Pete Hegseth bu tanımı duyurduktan sadece birkaç saat sonra, ABD ordusunun Claude’u kullanarak İran lideri Ayetullah Ali Hamaney’i öldüren operasyonda yer aldığı bildirildi.
Amicus brief’inde, Anthropic’in tedarik zinciri riski tanımlamasının “halk yararına zarar veren haksız bir misilleme” olduğu ve kırmızı çizgilerinin arkasındaki endişelerin “gerçek olduğu ve cevaplanması gerektiği” ifade ediliyor. Aynı zamanda, Anthropic’in iki kırmızı çizgisinin gözden geçirilmesi gerektiği vurgulanıyor; “AI tarafından desteklenen kitlesel iç gözetim, demokratik yönetişim için derin riskler doğurur — hatta bu, sorumlu ellerde olsa bile” deniyor ve “tamamen otonom öldürücü silah sistemlerinin risklerinin de ele alınması gerekiyor.” ifadesi ekleniyor.
Amicus brief’inin arkasındaki grup, kendilerini “ABD’nin öncü yapay zeka laboratuvarlarında çalışan mühendisler, araştırmacılar, bilim insanları ve diğer profesyoneller” olarak tanımladı. “Ulusal güvenlik, kolluk kuvvetleri ve askeri operasyonlar gibi önemli alanlarda geniş bir kullanıcı ve uygulama yelpazesi için hizmet veren büyük ölçekli AI sistemlerini inşa ediyor, eğitiyor ve araştırıyoruz,” dediler. “Bu brief’i herhangi bir şirketin sözcüsü olarak değil, bu sistemlerin ne yapabileceğini ve ne yapamayacağını, dağıtımlarının yasal ve etik çerçevelerin önüne geçtiğinde ne olduğunu doğrudan bilen bireyler olarak sunuyoruz.”
İç gözetim konusunda, grup, Amerikan vatandaşları hakkında veri bulunmasının yaygın olduğunu, ancak bu veri yelpazesinin “birleştirilmiş, gerçek zamanlı bir gözetim aparatı” haline dönüştüren AI katmanının henüz mevcut olmadığını belirtti. Şu anda bu veri akışları birbirinden ayrı, ancak AI’nın bu verileri birleştirmek için kullanılması durumunda “yüz tanıma verilerini konum geçmişi, işlem kayıtları, sosyal grafikler ve yüz milyonlarca insanın davranış kalıplarıyla aynı anda birleştirebileceğine” dikkat çekildi.
Otonom ölümcül silahlarla ilgili olarak, grup, bu sistemlerin eğitim aldıkları ortamlara uymayan yeni veya belirsiz koşullarda güvenilir olamayabileceğini söyledi. Bu durum, “hedefleri mükemmel doğrulukla tespit etmekte güvenilemeyecekleri ve bir humana göre daha ince bağlamı hesaplayamayan kararlar veremeyecekleri” anlamına geliyor. Ayrıca, ölümcül otonom silah sistemlerinin yanılma potansiyeli nedeniyle, “bir ölümcül mühimmat insan hedefe atılmadan önce insanların karar alma sürecinde yer almasının önemli olduğunu” ifade ettiler. Bu sistemlerin mantık zinciri, operatörlere genellikle kapalı ve sistemin geliştiricilerine bile belirsiz olduğu için.
Amicus brief’inin arkasındaki grup, “Politikalarımız ve felsefelerimiz açısından çeşitli görüşlere sahibiz, ancak bugünün öncü AI sistemlerinin, insan denetimi olmadan kitlesel iç gözetim sağlamak veya otonom ölümcül silah sistemlerini işletmek için kullanıldığında riskler sunduğuna ve bu risklerin bazı türden koruma önlemleri gerektirdiğine inanıyoruz, ister teknik güvenlik önlemleriyle, ister kullanım kısıtlamalarıyla.” dedi.
