Eski Google CEO’su Eric Schmidt ve Scale AI kurucusu Alexandr Wang, ABD hükümetine karşı yapay genel zeka (AGI) için bir Manhattan projesi oluşturan bir Manhattan projesi yaratan yeni bir makalede ortak yazarlar. Argümanın özü, böyle bir programın oluşturulmasının, ülkeler savaş alanında en güçlü AI yeteneklerine sahip olmak için yarıştıkça rakipler tarafından misilleme veya sabotaja yol açacağıdır. Bunun yerine ABD, tehdit edici AI projelerini devre dışı bırakabilecek siber saldırılar gibi yöntemler geliştirmeye odaklanmalıdır.
Schmidt ve Wang, AI’nın uyuşturucu geliştirme ve işyeri verimliliği gibi uygulamalar yoluyla toplumu ilerletme potansiyelinin büyük güçlendiricileridir. Bu arada hükümetler bunu savunmada bir sonraki sınır olarak görüyorlar ve iki endüstri lideri esasen ülkelerin giderek daha tehlikeli potansiyele sahip silahlar yaratma yarışına gireceğinden endişe ediyorlar. Nükleer silahların geliştirilmesinde uluslararası anlaşmaların nasıl düzenlendiğine benzer şekilde, Schmidt ve Wang, ulus devletlerin AI gelişiminde yavaş geçmesi ve yapay zeka ile çalışan öldürme makinelerinde birbirlerini yarışmaya avlanmaması gerektiğine inanıyorlar.
Bununla birlikte, hem Schmidt hem de Wang savunma sektörü için AI ürünleri inşa ediyorlar. Birincinin beyaz leylekleri otonom drone teknolojileri inşa ederken, bu hafta Wang’ın ölçekli yapay zekası bir sözleşme imzaladı Savunma Bakanlığı ile askeri planlama ve operasyonlara yardımcı olabilecek AI “ajanları” oluşturmak için. Yıllarca savaşta kullanılabilecek teknolojiyi satmaktan uzaklaştıktan sonra, Silikon Vadisi artık kazançlı savunma sözleşmeleri toplamak için vatansever olarak sıraya giriyor.
Tüm askeri savunma müteahhitlerinin, ahlaki olarak haklı olmasa bile kinetik savaşı teşvik etmek için bir çıkar çatışması vardır. Diğer ülkelerin kendi askeri sanayi kompleksleri var, düşünce gidiyor, bu yüzden ABD’nin de bir tane koruması gerekiyor. Ama sonunda, güçlü insanlar satranç oynarken masum insanlar acı çekiyor ve ölüyor.
Savunma teknolojisi sevgilim Anduril’in kurucusu Palmer Luckey, yapay zeka ile çalışan hedefli drone grevlerinin, daha büyük bir etki bölgesi olan nükleer silahları fırlatmadan veya hedeflemesi olmayan kara madenleri ekmekten daha güvenli olduğunu savundu. Ve eğer diğer ülkeler AI silahları inşa etmeye devam edeceklerse, caydırıcılıkla aynı yeteneklere sahip olmalıyız. Anduril, Ukrayna’ya Rus askeri ekipmanlarını düşman hatları üzerinde hedefleyebilecek ve saldırabilecek dronlar tedarik ediyor.
Anduril kısa bir süre önce dev, grafiti tarzı sprey boyalı harflerle yazılmış ve askeri endüstriyel kompleks için çalışmanın şu anda karşı kültür olduğu fikrini oynayan “anduril.com’da çalış” temel metnini gösteren bir reklam kampanyası yürüttü.
https://www.youtube.com/watch?v=gxqrci3wff8
Schmidt ve Wang, insanların herhangi bir AI destekli karar verme sürecinde her zaman döngüde kalmaları gerektiğini savundular. Ancak son raporlamanın gösterdiği gibi, İsrail ordusu Zaten hatalı AI programlarına güveniyor ölümcül kararlar vermek. Drone’lar uzun zamandır bölücü bir konu olmuştur, çünkü eleştirmenler askerlerin doğrudan ateş hattında olmadıklarında veya eylemlerinin sonuçlarını ilk elden görmediklerinde daha şikayetçi olduklarını söylüyorlar. Görüntü tanıma AI, hata yapmak için kötü şöhretlidir ve Killer Drones’un ileri geri uçacağı bir noktaya gidiyoruz.
Schmidt ve Wang kağıdı, AI’nın yakında “süper -“ olacağı ”, çoğu görevde insanlar kadar iyi olmasa da iyi performans gösterebileceği konusunda birçok varsayım yapıyor. En son “düşünme” modelleri büyük GAFF’ler üretmeye devam ettiği ve şirketler AI’nın desteklediği kötü yazılmış iş başvurularıyla dolup taştığı için bu büyük bir varsayımdır. Bu modeller, genellikle öngörülemeyen ve garip davranışları olan insanların kaba taklitleridir.
Schmidt ve Wang dünya ve çözümleri vizyonu satıyorlar. Yapay zeka tamamen güçlü ve tehlikeli olacaksa, hükümetler onlara gidip ürünlerini satın almalı çünkü sorumlu aktörler. Aynı şekilde, Openai’den Sam Altman, bazılarının Washington’daki politikayı etkileme ve gücü yakalama girişimi olduğunu söyleyen AI riskleri hakkında yüce iddialarda bulunduğu için eleştirildi. “AI dünyayı yok edebileceği o kadar güçlü, ama sizi satmaktan mutluluk duyduğumuz güvenli bir versiyonumuz var.” Diyor.
Schmidt’in uyarılarının, Başkan Trump’ın AI güvenliği etrafında Biden dönemi yönergelerini düşürdüğü ve ABD’yi AI’da baskın bir güç haline getirmeye ittiği için çok fazla etkiye sahip olması muhtemel değildir. Geçen Kasım, Kongre Komisyonu önerilen Schmidt’in uyarı verdiği AI için Manhattan projesi ve Sam Altman ve Elon Musk gibi insanlar Washington’da daha fazla etki kazandıkça, çekiş kazandığını görmek kolay. Bu devam ederse, makale, Çin gibi ülkelerin kasıtlı olarak bozulma veya fiziksel altyapıya saldıran yollarla misilleme yapabileceği konusunda uyarıyor. Çin, Microsoft gibi büyük ABD teknoloji şirketlerine girdiği için duyulmamış bir tehdit değil ve Rusya gibi diğerlerinin, denizaltı fiber optik kablolarına vurmak için yük gemisi gemileri kullandığı bildiriliyor. Tabii ki, aynı şeyi onlara yapardık. Hepsi karşılıklı.
Dünyanın bu silahlarla oynamayı bırakma konusunda herhangi bir anlaşmaya varabileceği belli değil. Bu anlamda, AI projelerini onlara karşı savunmak için sabote etme fikri iyi bir şey olabilir.
