Şükran Günü arıyorum siyaset ya da profesyonel spor olmayan yemek masası muhabbeti? Tamam, katil robotlardan bahsedelim. Bu, “robot” için ne kadar gevşek bir tanım kullandığınıza bağlı olarak, uzun zaman önce bilim kurgu sayfalarından gerçeğe sıçrayan bir kavramdır. Askeri insansız hava araçları terk edildi Asimov’un Birinci Robotik Yasası – “Bir robot bir insanı yaralayamaz veya hareketsiz kalarak bir insanın zarar görmesine izin veremez” – onlarca yıl önce.
Yerel kolluk kuvvetlerinde katil robotların artan olasılığı nedeniyle konu son zamanlarda yeniden kaynamaya başladı. Dönemin en tanınmış robot üreticilerinden biri olan Boston Dynamics, Spot robotunun 2019’da sahnemizde Massachusetts Eyalet Polisi eğitim tatbikatlarının bir parçası olarak konuşlandırılmasının görüntülerini sergilediğinde bazı kamu politikası kırmızı bayraklarını kaldırdı.
Robotlar silahlı değildi ve bunun yerine, bir rehine veya terörist durum sırasında memurları tehlikeden uzak tutmaya nasıl yardımcı olabileceklerini belirlemek için tasarlanmış bir tatbikatın parçasıydı. Ancak, insanların hayatlarının anında risk altında olduğu senaryolarda robotları kullanma olasılığı, TechCrunch’a şunları söyleyen ACLU’dan bir soruşturma başlatmak için yeterliydi:
Yeni teknolojileri test etme ve dağıtma planları konusunda halka karşı dürüst olması gereken devlet kurumlarından acilen daha fazla şeffaflığa ihtiyacımız var. Yapay zeka çağında sivil özgürlükleri, sivil hakları ve ırksal adaleti korumak için eyalet çapında düzenlemelere de ihtiyacımız var.
Bu arada, geçen yıl NYPD bir anlaşmayı kısa kesti Bronx’taki bir haneye tecavüze yanıt olarak Spot’un konuşlandırıldığına dair görüntülerin ortaya çıkmasının ardından, halkın yoğun tepkisini takiben Boston Dynamics ile.
Boston Dynamics, robotlarının silah haline getirilmesine karşı sesini yükseltiyor. Geçen ay, diğer önde gelen firmalar Agility, ANYbotics, Clearpath Robotics ve Open Robotics ile birlikte eylemi kınayan bir açık mektup imzaladı. Şunları not eder:
Uzaktan veya otonom olarak çalıştırılan, halka yaygın olarak erişilebilen ve insanların yaşadığı ve çalıştığı daha önce erişilemeyen yerlere gidebilen robotlara silah eklemenin yeni zarar riskleri ve ciddi etik sorunlar doğurduğuna inanıyoruz. Bu yeni yeteneklere sahip robotların silahlı uygulamaları, topluma getirecekleri muazzam faydalara zarar verecek şekilde, halkın teknolojiye olan güvenini de zedeleyecektir.
Mektubun kısmen Ghost Robotics’in ABD ordusuyla yaptığı çalışmalara bir yanıt olduğuna inanılıyordu. Kendi robotik köpeklerinden birinin görüntüleri Twitter’da otonom bir tüfekle gösterildiğinde, Philadelphia firması TechCrunch’a sistemlerin askeri ortakları tarafından nasıl kullanıldığı konusunda agnostik bir duruş sergilediğini söyledi:
Yükleri biz yapmıyoruz. Bu silah sistemlerinden herhangi birini tanıtacak ve reklamını yapacak mıyız? Muhtemelen değil. Cevaplaması zor bir soru. Orduya sattığımız için onlarla ne yaptıklarını bilmiyoruz. Devlet müşterilerimize robotları nasıl kullanacaklarını dikte etmeyeceğiz.
Satıldıkları yere çizgi çekiyoruz. Yalnızca ABD ve müttefik hükümetlere satış yapıyoruz. Rakip pazarlarda kurumsal müşterilere robotlarımızı bile satmıyoruz. Rusya ve Çin’de robotlarımız hakkında çok sayıda soru alıyoruz. Kurumsal müşterilerimiz için bile oraya gönderi yapmıyoruz.
Boston Dynamics ve Ghost Robotics şu anda birkaç patenti içeren bir davaya karışmış durumda.
Bu hafta, yerel polis ihbar sitesi Misyon Yerel katil robotlarla ilgili yenilenen endişeyi su yüzüne çıkardı – bu kez San Francisco’da. Site, önümüzdeki hafta şehrin Denetleme Kurulu tarafından incelenmekte olan bir politika teklifinin katil robotlar hakkında bir dil içerdiğini belirtiyor. bu “Kolluk Teçhizatı Ekipman Politikası” şu anda San Francisco Polis Departmanının elinde bulunan robotların bir envanteriyle başlar.
Toplamda 17 tane var – 12 tanesi çalışıyor. Büyük ölçüde bomba tespiti ve imhası için tasarlanmışlardır – yani hiçbiri özellikle öldürmek için tasarlanmamıştır.
Politika, “Bu bölümde listelenen robotlar, eğitim ve simülasyonlar, suçlu tutuklamalar, kritik olaylar, acil durumlar, arama emrinin yerine getirilmesi veya şüpheli cihaz değerlendirmeleri dışında kullanılmayacaktır.” Daha sonra, daha rahatsız edici bir şekilde, “Robotlar, yalnızca halkın veya memurların yaşam kaybı riskinin yakın olduğu ve SFPD’nin elindeki diğer herhangi bir güç seçeneğinden daha ağır bastığı durumlarda ölümcül bir güç seçeneği olarak kullanılacaktır.”
Etkili bir şekilde, dile göre robotlar, potansiyel olarak memurların veya halkın hayatını kurtarmak için öldürmek için kullanılabilir. Belki de bu bağlamda yeterince zararsız görünüyor. En azından, yasal tanımın içine giriyor gibi görünüyor. “haklı” ölümcül güç. Ancak, politikada köklü bir değişiklik gibi görünen şeyde yeni endişeler ortaya çıkıyor.
Yeni başlayanlar için, bir şüpheliyi öldürmek için bomba imha robotunun kullanılmasının emsali yok değil. Temmuz 2016’da, Dallas polis memurları tam da bunu olduğuna inanılan şey için yaptı. ABD tarihinde ilk kez. Polis şefi David Brown o sırada, “Bomba robotumuzu kullanmak ve şüphelinin olduğu yerde patlatmak için uzantısına bir cihaz yerleştirmekten başka seçenek görmedik” dedi.
İkinci olarak, yeni emsalin bir davada nasıl kullanılabileceğini görmek kolaydır. CYA senaryosu, bir robot kasıtlı olarak veya yanlışlıkla bu şekilde kullanılırsa. Üçüncüsü ve belki de en endişe verici olanı, tamamen patlayıcı keşfi ve imhası için tasarlanmamış, gelecekteki bir robotik sistemin edinilmesi için kullanılan dilin hayal edilebilir.
Mission Local, SF’nin Denetim Kurulu Kurallar Komitesi başkanı Aaron Peskin’in daha Asimov dostu olan “Robotlar herhangi bir kişiye karşı Güç Kullanımı olarak kullanılmamalıdır” sözünü eklemeye çalıştığını ekliyor. Görünüşe göre SFPD, Peskin’in değişikliğinin üstünü çizdi ve onu mevcut diline güncelledi.
Kaliforniya’daki katil robotlar hakkındaki yenilenen konuşma, kısmen 481 sayılı Meclis Yasası nedeniyle geliyor. Vali Gavin Newsom tarafından geçen yılın Eylül ayında imzalanan yasa, polisin eylemlerini daha şeffaf hale getirmek için tasarlandı. Bu, kolluk kuvvetleri tarafından kullanılan askeri teçhizatın bir envanterini içerir.
San Francisco belgesinde yer alan 17 robot, aşağıdakileri de içeren daha uzun bir listenin parçasıdır: Lenco BearCat zırhlı araçflaş patlamaları ve 15 alt makineli tüfek.
Geçen ay, Oakland Polisi söyledi onay istemeyecek silahlı uzak robotlar için. departman dedi ki Bir deyim:
Oakland Polis Departmanı (OPD), departmana silahlı uzak araçlar eklemiyor. OPD, aracın tüm olası kullanımlarını araştırmak için Oakland Polis Komisyonu ve topluluk üyeleriyle geçici komite tartışmalarına katıldı. Ancak, Şef ve İcra Ekibi ile daha fazla görüştükten sonra, departman artık bu özel seçeneği araştırmak istemediğine karar verdi.
Açıklama halkın tepkisini takip etti.
Asimov’un birinci yasasına göre diş macunu tüpten çoktan çıkmıştır. Katil robotlar burada. İkinci yasaya gelince – “Bir robot, kendisine insanlar tarafından verilen emirlere uymalıdır” – bu hâlâ büyük ölçüde bizim kavrayışımız dahilindedir. Robotlarının nasıl davranacağını belirlemek topluma kalmıştır.