ABD ordusu, otonom silahların geliştirilmesi ve kullanılmasına yönelik taahhüdünü yoğunlaştırıyor. Savunma Bakanlığı direktifi. 25 Ocak 2023’te yayınlanan güncelleme, on yıl içinde yapay zeka otonom silahlarına odaklanan ilk güncelleme. İlgili bir takip eder uygulama planı NATO tarafından 13 Ekim 2022’de yayınlanan, bazen “katil robotlar” olarak adlandırılan şeylerde ittifakın “teknolojik üstünlüğünü” korumayı amaçlayan bu.
Her iki duyuru da dünyanın dört bir yanındaki orduların ABD’deki son muharebe operasyonlarından öğrendiği çok önemli bir dersi yansıtıyor. Ukrayna Ve Dağlık Karabağ: Silahlı yapay zeka, savaşın geleceğidir.
Direktörü Richard Moyes, “Komutanların Ukrayna’da dolaşan cephanelerde askeri bir değer gördüklerini biliyoruz” dedi. Madde 36, bir röportajda bana silahlardan kaynaklanan zararı azaltmaya odaklanan bir insani yardım kuruluşu olduğunu söyledi. Bomba ve insansız hava aracı karışımı olan bu silahlar, bir hedefi beklerken uzun süre havada asılı kalabiliyor. Şimdilik, bu tür yarı otonom füzeler, genellikle önemli kararlar üzerinde önemli ölçüde insan kontrolü ile çalıştırılıyor, dedi.
savaş baskısı
Ancak Ukrayna’da kayıplar arttıkça, tamamen otonom silahlarla – herhangi bir insan gözetimine ihtiyaç duymadan hedeflerini kendi başlarına seçebilen, avlayabilen ve saldırabilen robotlar – belirleyici savaş alanı avantajları elde etme baskısı da artıyor.
Bu ay, önemli bir Rus üretici duyurulan planlar Ukrayna’daki mevcut kuvvetleri artırmak için mürettebatsız bir kara aracı olan Marker keşif robotunun yeni bir savaş versiyonunu geliştirmek. Tamamen otonom dronlar zaten kullanılıyor Ukrayna enerji tesislerini savunmak diğer dronlardan. Yarı otonom araçlar üreten ABD’li savunma yüklenicisinin CEO’su Wahid Nawabi sustalı droneteknoloji olduğunu söyledi zaten ulaşılabilir bu silahları tamamen otonom hale dönüştürmek.
Ukrayna’nın dijital dönüşüm bakanı Mykhailo Fedorov, tamamen otonom silahların savaşın “savaşın” olduğunu savundu.mantıklı ve kaçınılmaz bir sonraki adım” ve geçenlerde askerlerin onları önümüzdeki altı ay içinde savaş alanında görebileceğini söyledi.
Tam otonom silah sistemlerinin savunucuları teknolojinin askerleri tehlikeden uzak tutacağını iddia etmek onları savaş alanından uzak tutarak. Ayrıca, askeri kararların insanüstü bir hızda alınmasına izin vererek, radikal bir şekilde geliştirilmiş savunma yeteneklerine izin verecekler.
Şu anda, kendilerini takip eden ve hedeflerde patlatan aylak aylak mühimmatlar gibi yarı otonom silahlar, “döngüde bir insan” gerektiriyor. Eylemler önerebilirler ancak operatörlerinin bunları başlatmasını isteyebilirler.
Buna karşılık, sözde ” gibi tamamen otonom dronlardrone avcıları” Şimdi Ukrayna’da konuşlandırıldıoperatör müdahalesine ihtiyaç duymadan ve insan kontrollü silah sistemlerinden daha hızlı, gece ve gündüz gelen insansız hava araçlarını takip edip devre dışı bırakabiliyor.
Bir zaman aşımı çağrısı
gibi eleştirmenler Katil Robotları Durdurma Kampanyası on yılı aşkın bir süredir otonom silah sistemlerinin araştırma ve geliştirmesinin yasaklanmasını savunuyor. Otonom silah sistemlerinin sadece araçları, altyapıyı ve diğer silahları değil, özellikle insanları hedef alacak şekilde tasarlandığı bir geleceğe işaret ediyorlar. Yaşam ve ölümle ilgili savaş zamanı kararlarının insan elinde kalması gerektiğini savunuyorlar. Onları bir algoritmaya çevirmek, nihai biçimine tekabül eder. dijital insanlıktan çıkarma.
Birlikte İnsan Hakları İzleme ÖrgütüKatil Robotları Durdurma Kampanyası, otonom silah sistemlerinin siviller ile meşru askeri hedefler arasında ayrım yapmak için gerekli insan muhakemesinden yoksun olduğunu savunuyor. Ayrıca algılanan riskleri azaltarak savaş eşiğini düşürürler ve savaş alanında olup bitenler üzerindeki anlamlı insan kontrolünü aşındırırlar.
Örgütler, ordunun en ağır şekilde yatırım yapmak ABD, Rusya, Çin, Güney Kore ve Avrupa Birliği de dahil olmak üzere otonom silah sistemlerinde, dünyayı maliyetli ve istikrarsızlaştırıcı yeni bir silahlanma yarışına sokuyor. Bunun bir sonucu, bu tehlikeli yeni teknolojinin piyasaya düşmesi olabilir. teröristlerin ve hükümet kontrolü dışındaki diğer kişilerin elinde.
Güncellenen Savunma Bakanlığı direktifi, bazı önemli endişeleri gidermeye çalışıyor. ABD’nin otonom silah sistemlerini “ile” kullanacağını beyan ediyor.güç kullanımına ilişkin uygun düzeyde insan yargısı” İnsan Hakları İzleme Örgütü Bir bildiri yayınladı yeni direktifin “uygun seviye” ifadesinin ne anlama geldiğini açıklığa kavuşturmadığını ve bunu kimin belirlemesi gerektiğine dair yönergeler oluşturmadığını söyleyerek.
Ancak ulusal savunma ve uluslararası ilişkiler düşünce kuruluşundan bir uzman olan Gregory Allen olarak Stratejik ve Uluslararası Çalışmalar Merkezitartışıyor, bu dil daha düşük bir eşik oluşturur eleştirmenlerin talep ettiği “anlamlı insan kontrolünden” daha fazla. Savunma Bakanlığı’nın ifadesinin, gözetleme uçakları gibi belirli durumlarda, uygun görülen insan kontrolü seviyesinin “çok az veya hiç olmayabilir” olasılığına izin verdiğine dikkat çekiyor.
Güncellenen direktif ayrıca, özellikle teknolojiyi geliştirmek ve kullanmak için bir gözetim sistemi kurarak ve silahların mevcut uluslararası savaş yasalarına uygun olarak kullanılmasında ısrar ederek, otonom silah sistemlerinin etik kullanımını vaat eden bir dil de içeriyor. Ancak Madde 36’dan Moyes, uluslararası hukukun şu anda silah özerkliği kavramını düzenlemek bir yana, anlamak için yeterli bir çerçeve sağlamadığına dikkat çekti.
Mevcut yasal çerçeve, örneğin, komutanların kullandıkları sistemleri neyin tetikleyeceğini anlamaktan sorumlu olduklarını veya bu sistemlerin çalışacağı alanı ve zamanı sınırlamaları gerektiğini açıkça belirtmez. Moyes, “Tehlike şu ki, şu anda bulunduğumuz yer ile kabul edilemez olanı kabul ettiğimiz yer arasında parlak bir çizgi yok” dedi.
İmkansız bir denge mi?
Pentagon’un güncellemesi, otonom silah sistemlerini konuşlandırma ve uluslararası insancıl hukuka uyma konusunda eşzamanlı bir taahhüt olduğunu gösteriyor. ABD’nin bu taahhütleri nasıl dengeleyeceği ve böyle bir dengenin mümkün olup olmadığı görülecek.
Uluslararası insancıl hukukun koruyucusu olan Uluslararası Kızıl Haç Komitesi, komutanların ve operatörlerin yasal yükümlülüklerinin “bir makineye, algoritmaya veya silah sistemine aktarılamaz.” Şu anda insanlar, güç kullanımının askeri hedeflerle orantılı olduğundan emin olarak sivilleri korumaktan ve savaş hasarını sınırlamaktan sorumlu tutuluyor.
Savaş alanında yapay zekaya sahip silahlar konuşlandırılırsa ve ne zaman konuşlandırılırsa, gereksiz sivil ölümleri meydana geldiğinde kim sorumlu tutulmalı? Bu çok önemli sorunun net bir cevabı yok.
James Dawes İngilizce profesörüdür Macalester Koleji. Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.