Trump yönetimi, 2021’de Dario Amodei ve diğer eski OpenAI araştırmacıları tarafından kurulan Anthropic isimli San Francisco merkezli yapay zeka şirketiyle olan ilişkisini sonlandırdı. Savunma Bakanı Pete Hegseth, ülke güvenliği yasasını gerekçe göstererek şirketin Pentagon ile iş yapmasını engelleyen bir kara liste oluşturdu. Amodei, Anthropic’in teknolojisinin ABD vatandaşlarının kitlesel gözetiminde veya insansız savaş dronlarının hedef seçecek şekilde kullanılmasına izin vermeyi reddettiği için bu adım atıldı.
Bu gelişmeler, Anthropic için 200 milyon dolarlık bir sözleşmenin kaybı anlamına gelirken, Trum kesin olarak federal ajanslara “Anthropic teknolojisinin kullanımını derhal durdurun” talimatı verdi. Anthropic, bunun ardından Pentagon’a karşı mahkemeye başvuracağını duyurdu ve bu kararı hukuki açıdan mantıksız bulduğunu belirtti.
Max Tegmark, yapay zeka sistemlerinin hızla güçlenmesi ile bunları yönetme yeteneğimiz arasındaki farkı 10 yılı aşkın bir süredir vurguluyor. MIT’de profesör olan Tegmark, 2014 yılında Ömürlük Yaşam Enstitüsü’nü kurdu. 2023’te ise Elon Musk’ın da aralarında bulunduğu 33.000’den fazla kişinin imzaladığı açık bir mektup organize ederek, gelişmiş yapay zeka geliştirilmesine ara verilmesini talep etti.
Tegmark, Anthropic krizini değerlendirirken, şirketin kendi kaderini hazırladığını savunuyor. Ona göre, Anthropic, OpenAI ve diğer rakipleri bağlayıcı düzenlemelere karşı direnme kararı alarak durumu kendi aleyhlerine çevirdi. Şirketlerin kendi kendilerini sorumlu bir şekilde yöneteceklerine dair uzun süredir verdikleri sözler, uygulamaya geçirilmedikçe geçerliliğini yitirdi. Anthropic, bu hafta, potansiyel zarar vermeyeceklerinden emin olmadan daha güçlü yapay zeka sistemleri yayımlamayacaklarına dair taahhütlerini bir kenara koydu.
Tegmark, şu an için bir düzenleme olmaması nedeniyle bu şirketlerin korunaksız kaldığını ifade ediyor. Devamında, son gelişmeler hakkında kısa bir değerlendirme yapıyor. Dört büyük yapay zeka şirketinin, kendi güvenlik taahhütlerini ihlal edip, kendileriyle çelişen kararlar almakla suçlanabileceğini belirtirken, bu durumun sektörde yarattığı çelişkileri ortaya koyuyor.
Tegmark’a göre, bu tür güvenlik taahhütleri sadece halkla ilişkiler amaçlı yapıldığına dair güçlü bir algı bulunuyor ve gerçek fabrikatörlerin kendi kendini yönetme konusunda güvenilir olduklarını iddia etmeleri yeterli olmayacak. Kanunlar oluşturulmadığı sürece, şirketlerin söylediklerine güvenmenin tehlikeli olduğunu vurguluyor.
Sonuç olarak gördükleri yalın bir gerçek var: Eğer yapay zeka şirketleri hükümete gidip taahhütlerini yasaya dönüştürmelerini isteselerdi, belki farklı bir senaryo izlenebilirdi. Şu anda her şey bir düzenleme eksikliği içinde ve bu tür bir corporatist amnestinin sonuçları geçmişte izlenebilir açık vakalarla dolu. Nasıl ki geçmişte yasaların yokluğu doğum defektlerine, tütün şirketlerinin çocuklar üzerinde etkilerine ve diğer ciddi sorunlara yol açtıysa, şu an da fast-food mantığıyla yapay zeka sistemleri arasında bir fark kalmadı.
Yine de, diğer yapay zeka şirketlerinin bu durum karşısında nasıl bir tutum alacağı merak ediliyor. Artık ulusal güvenlik topluluğunda söz konusu sistemlerin bir tehdit olabileceği düşüncesinin hız kazandığı görülüyor. Zaman içinde, yıkıcı yapay zeka sistemlerinin yalnızca bir araç değil, bir ulusal güvenlik tehdidi olarak kabul edileceği anlaşılıyor mu? Bu, ABD’nin geleceği için nasıl bir anlam taşıyor?
Tüm bu gelişmeler, yapay zeka evrimini hızlandırabilir mi? Siz bu olayların sonucunu nasıl değerlendiriyorsunuz?
