OpenAI, otomatik bir tüfeği nişan almak ve ateşlemek için ChatGPT sorgularına yanıt verebilecek bir cihaz geliştiren bir geliştiricinin işini kesti. Cihaz, Reddit’te geliştiricisinin ateşleme komutlarını yüksek sesle okuduğunu gösteren bir videonun ardından viral oldu ve ardından yanındaki tüfek hızla yakındaki duvarlara nişan alıp ateş etmeye başladı.
Geliştirici videoda sisteme “ChatGPT, ön sol ve ön sağdan saldırı altındayız” dedi. “Buna göre cevap verin.” Tüfeğin tepki verdiği hız ve doğruluk etkileyici; girdiyi yorumlamak ve ardından mekanizmanın anlayabileceği yönlere geri dönmek için OpenAI’nin Gerçek Zamanlı API’sine güveniliyor. ChatGPT’nin “sola dön” gibi bir komutu alması ve bunun makine tarafından okunabilir bir dile nasıl çevrileceğini anlaması yalnızca basit bir eğitim gerektirecektir.
Bir açıklamada FütürizmOpenAI, videoyu görüntülediğini ve arkasındaki geliştiriciyi kapattığını söyledi. Şirket, çıkışa “Politikalarımızın bu ihlalini proaktif olarak belirledik ve geliştiriciye, sorunuzu almadan önce bu aktiviteyi durdurması konusunda bilgilendirdik” dedi.
Ölümcül silahları otomatikleştirme potansiyeli, eleştirmenlerin OpenAI tarafından geliştirilen yapay zeka teknolojisi hakkında dile getirdiği korkulardan biri. Şirketin çok modlu modelleri, kişinin çevresini anlamak ve gördükleriyle ilgili sorulara yanıt vermek için işitsel ve görsel girdileri yorumlayabiliyor. Savaş alanında insan müdahalesi olmadan hedefleri belirlemek ve vurmak için kullanılabilecek otonom dronlar halihazırda geliştiriliyor. Bu elbette bir savaş suçudur ve insanların rehavete kapılma riski taşır, yapay zekanın karar vermesine olanak tanır ve kimseyi sorumlu tutmayı zorlaştırır.
Endişe teorik de görünmüyor. Yakın zamanda rapor itibaren Washington Post İsrail’in bombalama hedeflerini seçmek için yapay zekayı, bazen ayrım gözetmeksizin kullandığını ortaya çıkardı. “STeknolojiyi kullanma konusunda yetersiz eğitim almış yaşlılar, Lavender’ın tahminlerini hiçbir şekilde desteklemeden insan hedeflerine saldırdılar” diye yazıyor hikayede, bir yapay zeka yazılımına atıfta bulunuluyor. “Belirli zamanlarda gerekli olan tek doğrulama hedefin bir erkek olmasıydı.”
Savaş alanındaki yapay zeka savunucuları, askerlerin ön cephelerden uzak durmalarına, füze stokları gibi hedefleri etkisiz hale getirmelerine veya uzaktan keşif yapmalarına olanak tanıyarak askerlerin daha güvenli hale geleceğini söylüyor. Ve yapay zeka destekli dronlar hassas bir şekilde vurabilir. Ancak bu onların nasıl kullanıldığına bağlıdır. Eleştirmenler ABD’nin bunu yapması gerektiğini söylüyor düşman iletişim sistemlerini bozma konusunda daha iyi olun bunun yerine, Rusya gibi rakipler kendi insansız hava araçlarını veya nükleer bombalarını fırlatmakta zorlanıyor.
OpenAI, ürünlerinin silah geliştirmek veya kullanmak ya da “kişisel güvenliği etkileyebilecek belirli sistemleri otomatikleştirmek” amacıyla kullanılmasını yasaklar. Ancak şirket geçen yıl, drone saldırılarına karşı savunma sağlayabilecek sistemler oluşturmak için yapay zeka destekli drone ve füze üreticisi savunma teknolojisi şirketi Anduril ile ortaklık yaptığını duyurdu. Şirket, bunun “zamana duyarlı verileri hızlı bir şekilde sentezleyeceğini, insan operatörlerin üzerindeki yükü azaltacağını ve durumsal farkındalığı geliştireceğini” söylüyor.
Teknoloji şirketlerinin neden savaşa girmekle ilgilendiğini anlamak zor değil. ABD savunmaya yılda neredeyse bir trilyon dolar harcıyor ve bu harcamaları kısmak pek de sevilmeyen bir fikir olmaya devam ediyor. Başkan seçilen Trump’ın kabinesini Elon Musk ve David Sacks gibi muhafazakar eğilimli teknoloji figürleriyle doldurmasıyla, çok sayıda savunma teknolojisi oyuncusunun büyük fayda sağlaması ve potansiyel olarak Lockheed Martin gibi mevcut savunma şirketlerinin yerini alması bekleniyor.
Her ne kadar OpenAI, kendi müşterilerinin yapay zekasını silah yapmak için kullanmasını engellese de, aynı kullanım için kullanılabilecek çok sayıda açık kaynaklı model mevcut. Üstüne şunu da ekleyin: 3D baskı silah parçaları– kolluk kuvvetleri, UnitedHealthcare saldırganı olduğu iddia edilen Luigi Mangione tarafından yapıldığına inandığı şeyin bu olduğunu düşünüyor – ve kişinin evinin rahatlığında DIY otonom ölüm makineleri inşa etmek şaşırtıcı derecede kolay hale geliyor.
