Yaklaşık iki ay önce, Shield AI kurucu ortağı Brandon Tseng ve çalışanlarından biri Uber’de Ukrayna’nın Kiev kentinde dolaşıyordu. Yapay zeka pilot sistemlerini ve insansız hava araçlarını satmak için askeri yetkililerle bir toplantıya gidiyorlardı ki aniden çalışanı ona telefonunda bir uyarı gösterdi. Rus bombaları geliyordu. Tseng olası ölümünü omuz silkerek karşıladı. “Eğer gitme zamanın geldiyse” dedi, “o zaman gitme zamanın geldi.”
Aksine, eski bir Donanma SEAL’i olan Tseng, daha fazla aksiyon için can atıyordu. Shield AI çalışanları daha önce Ukrayna’da çok daha tehlikeli bölgelere giderek birliklerine yazılımı ve dronları konusunda eğitim vermişti. Tseng, “Nereye gideceklerini oldukça kıskanıyorum” dedi. “Sadece macera açısından.”
Tseng, çoğu savunma teknolojisi kurucusuna hakim olan sessiz maçoluğu temsil ediyor. Geçen ay şirketin Arlington ofisinde onunla tanıştığımda, ofisinde sergilenen ve SEAL’in “Sessizlik içinde acı çek” sloganının kazındığı bıçağı gösterdi. Üstleri floresan ışıklarla parıldayan (Tseng’in söylediğine göre bir uzay gemisine benzeyecek şekilde) beyaz duvarlar, “Onurun gerektirdiğini yapın” ve “Kalkanınızı her gün kazanın” gibi sloganlarla kaplıydı. Oldukça yoğun olduklarını belirttim. “Öyle mi?” Tseng yanıtladı.
Tseng, 2015 yılında patent ödüllü elektrik mühendisi kardeşi Ryan Tseng ile birlikte Shield AI’yi kurdu ve net bir misyonla yola çıktı: “Dünyanın en iyi AI pilotunu oluşturduk” dedi. “Müşterilerin eline bir milyon yapay zeka pilotu vermek istiyorum.”
Bu amaçla kendisi ve erkek kardeşi, Riot Ventures ve ABD Yenilikçi Teknoloji Fonu gibi yatırımcılardan 1 milyar doların üzerinde para topladı. Şirket, hava araçlarını otonom hale getirmek için yapay zeka yazılımı geliştiriyor ancak Tseng, Shield AI’nin yazılımını su altı ve yüzey sistemlerinde de istediklerini söyledi. Ayrıca drone V-BAT gibi donanım ürünleri de var.
Shield AI aynı zamanda nadir görülen bir savunma teknolojisi start-up’ları sınıfının da bir parçası: aslında makul büyüklükte hükümet sözleşmeleri imzalayan bir şirket. 198 milyon dolarlık sözleşme Bu yıl Sahil Güvenlik’ten. Kurucular sanki kendilerini daha da büyük bir gelecek için konumlandırmaya çalışıyormuşçasına, büyük savunma müteahhitlerinden biri olan Raytheon’un üç katıyla çevrili yeni bir ofis seçtiler.
Ukrayna: ABD’deki savunma teknolojisi girişimlerinin laboratuvarı
16 Eylül değişen zamanların bir işaretiydi: Savunma teknolojisi kurucularının Kongre Binası’na uçmasını, kıyafetlerini giymesini ve politikacılara diz çökmesini sağlamak yerine Washington DC onlara geldi.
ABD Temsilciler Meclisi Silahlı Hizmetler Komitesi üyeleri, Palantir CTO’su Shyam Sankar, Brandon Tseng ve Skydio, Applied Intuition ve Saildrone yöneticileriyle UC Santa Cruz’un Silikon Vadisi kampüsünde bir araya geldi. ABD Savunma Bakanlığı’nın (DoD) satın alma reformunu ve kaçınılmaz olarak ABD teknolojisinin Ukrayna’daki rolünü tartıştılar. Bu ilkti kamuya açık duruşma Komite 2006’dan bu yana Washington DC dışında toplanıyor.
Tseng politika yapıcılara Ukrayna’nın “harika bir laboratuvar” olduğunu söyledi. “Sanırım Ukraynalılar savaş alanında işe yaramayan hiçbir şeyi kullanmayacaklarını keşfettiler.”
Anduril’in kurucu ortağı gibi savunma teknolojisi kurucuları Palmer Şanslı Ve Skydio’nun kurucu ortağı Adam Bryhızla kötüleşen bir savaş alanı için nispeten yeni teknoloji satmak üzere savaş halindeki ülkeye akın etti. Maalesef ABD teknolojisinin tamamı çalışmıyor. Bir göre Wall Street Journal raporuABD’li yeni kurulan şirketlerin dronları Ukrayna’da elektronik savaş yoluyla neredeyse evrensel olarak başarısız oldu, bu da dronların Rusya’nın GPS karartma teknolojisi altında çalışmayı bıraktığı anlamına geliyor.
“Ukrayna savaşta ve insanlar öldürülüyor. Ama… öğrenilen dersleri almak istiyorsun,” dedi Tseng bir hafta sonra bana duruşmayı düşünürken. “Bu derslerin hiçbirini yeniden öğrenmek zorunda kalmak istemezsiniz. ABD bu derslerden herhangi birini yeniden öğrenmek istememeli.”
Doğal olarak Shield AI’nin dronlarının Ukrayna’da diğerlerinden daha iyi performans gösterdiğinden emin çünkü GPS’e güvenmeden çalışabildiklerini söylüyor. “Sahip olduğumuz başarılara dayanarak oraya daha fazla insansız hava aracı göndermek için çalışıyoruz” dedi, ancak Shield AI’nin kaç tane insansız hava aracı gönderdiğine ilişkin ayrıntıları belirtmeyi reddetti.
Terminatör benzeri yapay zeka katilleri mi? Yoksa “Ender’in Oyunu” mu?
Tseng’in köşe ofisi çıplaktı, yanında duvarda çarpık bir şekilde asılı duran çerçeveli bir Anayasa kopyası vardı. Bunu en büyük ilham kaynaklarından biri olarak sıraladı. “Mükemmel olduğumuz için değil, mükemmel değerler olduğunu iddia ettiğim bu değerleri arzuladığımız için” dedi. “En önemli şey bu. Biz her zaman bu doğrultuda yürüyoruz.”
Savaşların kısaltılmış tarihini gözden geçirmeden önce çerçeveyi düzeltti. Caydırıcılığın, atom bombası veya gizlilik teknolojisi ve GPS gibi radikal yeni bir teknoloji ortaya çıktığında ortaya çıkma eğiliminde olduğunu söyledi. Savunma Bakanlığı’nın bunu uygun şekilde finanse etmesi durumunda yapay zekanın yeni caydırıcılık çağını başlatacağını söyledi. “Özel şirketler yapay zeka ve özerkliğe savunma bütçesindeki toplam miktardan daha fazla para ayırıyor” dedi.
Yapay zekâyla ilgili federal sözleşmelerin potansiyel değeri 2022’de 335 milyon dolardan 2023’te 4,6 milyar dolara yükseldi. Brookings Enstitüsü’nün bir raporu. Ancak PitchBook’a göre bu, risk sermayedarlarının hemen hemen aynı dönemde savunma teknolojisine yaptığı 70 milyar doların üzerindeki yatırımın hâlâ çok küçük bir kısmı.
Yine de askeri yapay zeka kullanımına ilişkin en büyük soru bütçe değil, etiktir. Kurucular ve politika yapıcılar, tamamen otonom silahlara izin verilip verilmeyeceği konusunda aynı şekilde boğuşuyor; bu, ne zaman öldürüleceğine yapay zekanın kendisinin karar vermesi anlamına geliyor. Son zamanlarda bazı kurucuların söylemleri bu tür silahların üretilmesinden yana görünüyor.
Örneğin, birkaç gün önce Anduril’den Luckey, Batılı ülkeleri yapay zekayı agresif bir şekilde takip etmemeleri konusunda kandırmak için “şu anda Birleşmiş Milletler’de birçok düşmanımız tarafından bir gölge kampanya yürütüldüğünü” iddia etti. Tamamen otonom yapay zekanın kara mayınlarından daha kötü olmadığını ima etti. Ancak ABD’nin 160’tan fazla ülke arasında yer aldığından bahsetmedi. Anti-personel mayın kullanımının yasaklanması konusunda anlaşmaya varıldı çoğu yerde.
Tseng tam otonom silahlara kesinlikle karşı çıkıyor. “Savaş alanında öldürücü güç kullanma konusunda ahlaki bir karar vermek zorunda kaldım” dedi. “Bu insani bir karardır ve her zaman da insani bir karar olacaktır. Bu Shield AI’nin bakış açısıdır. Bu aynı zamanda ABD ordusunun bakış açısıdır.”
Şirketlerin bunları geliştirmesini yasaklamamasına rağmen ABD ordusunun şu anda tam otonom silahlar satın almadığı konusunda haklı. Ya ABD bakış açısını değiştirirse? “Bunun çılgınca bir varsayım olduğunu düşünüyorum” diye yanıtladı. “Kongre bunu istemiyor. Bunu kimse istemez.”
Peki Terminatör benzeri katillerden oluşan bir ordu öngörmüyorsa ne düşünüyor? Tseng, “Tek bir kişi bir milyon İHA’yı yönetebilir ve kontrol edebilir” dedi. “Tek bir kişinin savaş alanında ne kadar etkili komuta edebileceği konusunda teknolojik bir sınırlama yok.”
Bir çocuk askerin bir el hareketiyle uzay ordularının lejyonlarını serbest bırakabileceği 1985 tarihli bilimkurgu klasiğine atıfta bulunarak, bunun “Ender’in Oyunu”na benzeyeceğini söyledi.
Tseng, “Komuta ettiği gerçek insanlar yerine kahrolası robotlar olacak” dedi.