OpenAI ve Anthropic gibi önde gelen yapay zeka geliştiricileri, ABD ordusuna yazılım satmak için hassas bir iğneyi inceliyorlar: Yapay zekalarının insanları öldürmesine izin vermeden Pentagon’u daha verimli hale getirmek.
Pentagon’un Dijital ve Yapay Zeka Direktörü Dr. Radha Plumb, TechCrunch’a yaptığı açıklamada, bugün araçlarının silah olarak kullanılmadığını ancak yapay zekanın Savunma Bakanlığı’na tehditleri belirleme, izleme ve değerlendirme konusunda “önemli bir avantaj” sağladığını söyledi. telefon görüşmesi.
Plumb, “Komutanlarımızın güçlerimizi korumak için doğru zamanda karşılık verebilmeleri için öldürme zincirinin uygulanmasını hızlandırabileceğimiz yöntemleri açıkça artırıyoruz” dedi.
“Öldürme zinciri”, sensörler, platformlar ve silahlardan oluşan karmaşık bir sistemi içeren, ordunun tehditleri belirleme, izleme ve ortadan kaldırma sürecini ifade eder. Plumb’a göre üretken yapay zeka, öldürme zincirinin planlama ve strateji oluşturma aşamalarında faydalı olduğunu kanıtlıyor.
Pentagon ve yapay zeka geliştiricileri arasındaki ilişki nispeten yenidir. OpenAI, Anthropic ve Meta, ABD istihbarat ve savunma kurumlarının yapay zeka sistemlerini kullanmasına izin vermek için 2024’te kullanım politikalarını geri çekti. Ancak yine de yapay zekalarının insanlara zarar vermesine izin vermiyorlar.
Pentagon’un yapay zeka model sağlayıcılarıyla nasıl çalıştığı sorulduğunda Plumb, “Onların teknolojilerini ne için kullanıp kullanmayacağımız konusunda gerçekten nettik” dedi.
Bununla birlikte, bu, yapay zeka şirketleri ve savunma müteahhitleri için hızlı bir buluşma turunu başlattı.
Meta Lockheed Martin ve Booz Allen ile ortaklık kurdulama yapay zeka modellerini Kasım ayında savunma teşkilatlarına sunacak. Aynı ay Anthropic, Palantir ile birlikte çalıştı. Aralık ayında, OpenAI de benzer bir anlaşmaya vardı Anduril’le birlikte. Daha sessiz bir şekilde Cohere, modellerini Palantir ile konuşlandırıyor.
Üretken yapay zeka Pentagon’da kullanışlılığını kanıtlarken, Silikon Vadisi’ni yapay zeka kullanım politikalarını gevşetmeye ve daha fazla askeri uygulamaya izin vermeye itebilir.
Plumb, “Farklı senaryolar üzerinde oynamak, üretken yapay zekanın yardımcı olabileceği bir şeydir” dedi. “Bu, komutanlarımızın sahip olduğu tüm araçlardan yararlanmanıza olanak tanırken, aynı zamanda kovuşturulması gereken potansiyel bir tehdidin veya bir dizi tehdidin olduğu bir ortamda farklı yanıt seçenekleri ve potansiyel ödünler hakkında yaratıcı bir şekilde düşünmenize olanak tanır. ”
Pentagon’un bu iş için kimin teknolojisini kullandığı belli değil; Öldürme zincirinde üretken yapay zekanın kullanılması (erken planlama aşamasında bile), birçok önde gelen model geliştiricinin kullanım politikalarını ihlal ediyor gibi görünüyor. Antropik politikasıÖrneğin, modellerinin “insan hayatına zarar vermek veya hayatını kaybetmek üzere tasarlanmış sistemler” üretmek veya değiştirmek için kullanılmasını yasaklıyor.
Sorularımıza yanıt olarak Anthropic, TechCrunch’ı CEO’su Dario Amodei’ye yönlendirdi. Financial Times’la son röportajaskeri çalışmalarını savunduğu yer:
Yapay zekayı savunma ve istihbarat ortamlarında asla kullanmamamız gerektiği görüşü bana mantıklı gelmiyor. Gangsterlere gitmemiz ve bunu kıyamet silahları da dahil olmak üzere istediğimiz her şeyi yapmak için kullanmamız gerektiği fikri de kesinlikle aynı derecede çılgınca. İşleri sorumlu bir şekilde yapmak için orta yolu bulmaya çalışıyoruz.
OpenAI, Meta ve Cohere, TechCrunch’ın yorum talebine yanıt vermedi.
Yaşam ve ölüm ve yapay zeka silahları
Son aylarda, yapay zeka silahlarının ölüm kalım kararları vermesine gerçekten izin verilip verilmemesi gerektiği konusunda savunma teknolojisinde bir tartışma çıktı. Bazıları ABD ordusunun zaten bu özelliklere sahip silahlara sahip olduğunu iddia ediyor.
Anduril CEO’su Palmer Luckey yakın zamanda X’te not edildi ABD ordusunun otonom silah sistemlerini satın alma ve kullanma konusunda uzun bir geçmişi var. CIWS tareti.
“Savunma Bakanlığı onlarca yıldır otonom silah sistemleri satın alıyor ve kullanıyor. Bunların kullanımı (ve ihracatı!) iyi anlaşılmış, sıkı bir şekilde tanımlanmış ve hiçbir şekilde gönüllü olmayan kurallarla açıkça düzenlenmiştir,” dedi Luckey.
Ancak TechCrunch, Pentagon’un tamamen otonom, yani içinde insan bulunmayan silahlar satın alıp çalıştırmadığını sorduğunda, Plumb prensipte bu fikri reddetti.
“Hayır, kısa cevap bu” dedi Plumb. “Hem güvenilirlik hem de etik açısından, güç kullanma kararına her zaman insanları dahil edeceğiz ve buna silah sistemlerimiz de dahil.”
“Özerklik” kelimesi biraz muğlaktır ve tüm teknoloji endüstrisinde, yapay zeka kodlama aracıları, sürücüsüz arabalar veya kendi kendine ateşlenen silahlar gibi otomatik sistemlerin ne zaman gerçekten bağımsız hale geleceği konusunda tartışmalara yol açtı.
Plumb, otomatik sistemlerin bağımsız olarak yaşam ve ölüm kararlarını verdiği fikrinin “fazla ikili” olduğunu ve gerçekliğin daha az “bilim kurgu” olduğunu söyledi. Bunun yerine, Pentagon’un yapay zeka sistemlerini kullanmasının aslında insanlar ve makineler arasındaki bir işbirliği olduğunu, üst düzey liderlerin tüm süreç boyunca aktif kararlar aldığını öne sürdü.
“İnsanlar bu konuyu sanki bir yerlerde robotlar varmış ve sonra da gonculator varmış gibi düşünmeye eğilimliler. [a fictional autonomous machine] bir parça kağıt tükürür ve insanlar sadece bir kutuyu işaretler,” dedi Plumb. “İnsan-makine ekip çalışması bu şekilde çalışmıyor ve bu, bu tür yapay zeka sistemlerini kullanmanın etkili bir yolu değil.”
Pentagon’da yapay zeka güvenliği
Silikon Vadisi çalışanları için askeri ortaklıklar her zaman iyi gitmedi. Geçen yıl düzinelerce Amazon ve Google çalışanı Şirketlerinin İsrail ile askeri sözleşmelerini protesto ettikten sonra kovuldu ve tutuklandı“Project Nimbus” kod adı altına giren bulut anlaşmaları.
Nispeten yapay zeka topluluğundan oldukça sessiz bir yanıt geldi. Anthropic’ten Evan Hubinger gibi bazı yapay zeka araştırmacıları, yapay zekanın ordularda kullanılmasının kaçınılmaz olduğunu ve bunu doğru şekilde yaptıklarından emin olmak için doğrudan orduyla çalışmanın kritik önem taşıdığını söylüyor.
Hubinger Kasım ayında yaptığı bir açıklamada, “Yapay zekanın yıkıcı risklerini ciddiye alırsanız, ABD hükümeti etkileşime geçilmesi gereken son derece önemli bir aktördür ve ABD hükümetinin yapay zekayı kullanmasını engellemeye çalışmak geçerli bir strateji değildir” dedi. çevrimiçi foruma gönderin LessWrong. “Sadece felaket risklerine odaklanmak yeterli değil, aynı zamanda hükümetin modellerinizi kötüye kullanabileceği her türlü yolu da önlemeniz gerekiyor.”
