Yeni teknoloji skandalının merkezinde otomatik tüfeği kontrol etmek için kullanmaya çalıştıkları ChatGPT yapay zeka sistemi yer alıyor. OpenAI, ChatGPT aracılığıyla sesli komutları kullanarak nişan alabilen ve ateş edebilen cihazı oluşturan geliştiriciye erişimi hızla engelledi.
Reddit’te yayınlanan deneyin videosu, tüfeğin sesli komutlara yanıt vermedeki etkileyici hızını ve doğruluğunu gösteriyor. “ChatGPT, soldan ve sağdan saldırı altındayız. Buna göre hareket edin,” diyor geliştirici videoda ve ardından silah hemen belirtilen yönlere nişan almaya ve ateş etmeye başlıyor.
OpenAI temsilcileri, “Bu kural ihlalini proaktif olarak tespit ettik ve geliştiriciye bu aktiviteyi durdurması konusunda bilgi verdik” dedi.
Silahların otomasyonu, yapay zekanın gelişimini eleştirenlerin temel kaygılarından biridir. OpenAI’nin çok modlu modelleri, teorik olarak askeri amaçlarla kullanılabilecek, ortamı anlamak için işitsel ve görsel verileri yorumlama yeteneğine sahiptir.
Bu korkular yersiz değil. Washington Post’ta yakın zamanda yapılan bir araştırma, İsrail’in bombalama hedeflerini seçmek için, bazen uygun bir inceleme yapılmadan halihazırda yapay zekayı kullandığını ortaya çıkardı. Aynı zamanda hedef seçiminde tek kriter bazen hedefin erkek cinsiyeti olabiliyordu.
OpenAI, ürünlerinin silah geliştirme amaçlı kullanımını yasaklasa da şirket, geçen yıl yapay zeka kontrollü insansız hava araçları ve füzeler geliştiren savunma şirketi Anduril ile ortaklığa girdi.
Uzmanlar, resmi API’lere erişim engellense bile benzer amaçlarla kullanılabilecek pek çok açık modelin bulunduğunu belirtiyor. Bu, 3D baskının yetenekleriyle birleştiğinde ev yapımı silahların ortaya çıkması açısından ciddi riskler yaratıyor.
