Eylül ortasında geri döndüm, Massachusetts’li bir çift milletvekili “ileri robot teknolojilerinin sorumlu kullanımını sağlamak için” bir yasa tasarısı sundu. Bunun en basit ve en doğrudan anlamı, silahlı robotların üretimini, satışını ve kullanımını yasaklayacak mevzuattır.
Birkaç nedenden dolayı ilginç bir teklif. Birincisi, bu tür artan kaygıları yönlendiren ABD eyalet ve ulusal yasalarının genel olarak eksikliğidir. Bu, o kadar bilim kurgu gibi hissettiren şeylerden biri ki, pek çok kanun koyucu bunu pragmatik bir şekilde takip etmeye hiç ilgi duymadı.
Tabii ki bu sadece bilim kurgu değil ve uzun zamandır da öyle değil. Açıkça söylemek gerekirse, Amerika Birleşik Devletleri 20 yılı aşkın süredir insanları öldürmek için robotları (drone’ları) kullanıyor. Ancak bu kulağa ne kadar kaba gelse de insanlar, konu kendi arka bahçeleri olduğunda bu teknolojilere çok farklı bakma eğilimindeler.
Ancak “katil robotlar” hakkındaki endişeler askeri uygulamalardan çok daha geniştir. Bazıları aslında hala tipik Terminatörlerinize dayanıyor; Ben, Robotlar; ve Freddy’de Beş Gece. Diğerleri çok daha temellidir. MSCHF’nin bir noktaya değinmek için bir paintball tabancasını yerleştirdiğini hatırlıyor musunuz? Keskin nişancı tüfeği olan Hayalet Robotların tüm görüntülerine ne dersiniz?
WASHINGTON, DC – 22 HAZİRAN: Ghost Robotics İcra Kurulu Başkanı Gavin Kenneally, 22 Haziran 2023’te Washington DC’de ABD Kongre Binası’nda yapılan Meclis duruşması sırasında Vision 60 UGV içeri girerken konuşuyor. Temsilciler Meclisi Gözetim ve Sorumluluk Komitesi Siber Güvenlik, Bilgi Teknolojisi ve Hükümet Yenilikleri Alt Komitesi, teknolojinin ABD Sınırında, havalimanlarında ve askeri üslerde kullanımını tartışmak üzere toplandı. (Fotoğraf: Tasos Katopodis/Getty Images)
Hala gündelik bir olay olmasa da, polislerin öldürmek için robotları kullandığına dair bir emsal de var. 2016 Bağımsızlık Günü haftası, Dallas Emniyet Müdürlüğü bomba imha robotuna bomba yerleştirerek bir şüpheliyi öldürdü. Böyle bir hareketin bilgeliği ve etiği hakkında ne düşünürseniz düşünün, robotun inşa edildiği işi yaptığını inandırıcı bir şekilde iddia edemezsiniz. Aslında tam tersi.
Son zamanlarda, kolluk kuvvetleri tarafından silahlı robotların potansiyel kullanımı, Oakland ve San Francisco gibi yerlerde siyasi bir paratoner haline geldi. Geçtiğimiz Ekim ayında Boston Dynamics, Agility, ANYbotics, Clearpath Robotics ve Open Robotics ile güçlerini birleştirerek “genel amaçlı” robotların silah haline getirilmesini kınayan açık bir mektubu imzaladı.
Kısmen şunu okuyordu:
Uzaktan veya otonom olarak çalıştırılan, halkın kullanımına yaygın olarak sunulan ve insanların yaşadığı ve çalıştığı, önceden erişilemeyen yerlere gidebilen robotlara silah eklenmesinin, yeni zarar risklerini ve ciddi etik sorunları artırdığına inanıyoruz. Bu yeni yetenekli robotların silahlandırılmış uygulamaları, topluma getirecekleri muazzam faydalara zarar verecek şekilde halkın teknolojiye olan güvenini de zedeleyecek.
Bunu akılda tutarak, Spot’un yapımcısının önerilen bu yeni mevzuatın tohumlarını atmada kilit bir rol oynaması büyük bir sürpriz olmamalı. Bu haftanın başlarında, tasarıyı Massachusetts eyaleti senatörü Michael Moore ile birlikte sunan Massachusetts eyaleti temsilcisi Lindsay Sabadosa ile tasarı hakkında konuştum.
MA Temsilcisi Sabadosa
Tasarının durumu nedir?
İlginç bir durumdayız çünkü tasarının birçok hareketli parçası var. Tasarı halihazırda görüşülmeye başlandı ve bu harika bir haber. Tasarının dili üzerinde komiteyle birlikte çalışıyoruz. Neden farklı eserlerin yazıldığı gibi yazıldığına dair bazı soruları vardı. Şu anda dilin teknik incelemesini yapıyoruz ve aynı zamanda masada olması gereken herkesin masada olduğundan emin olmak için tüm paydaşlarla görüşüyoruz.
“Paydaşlar” derken. . .
Paydaşlar robotik üreten şirketlerdir. Boston Dynamics’in ürettiği robot Spot ve diğer robotlar, Boston Polis Departmanı veya Massachusetts Eyalet Polisi gibi kuruluşlar tarafından kullanılıyor. İtfaiye tarafından kullanılabilirler. Yani, tasarıyı gözden geçirmek ve değişikliklerin ne olduğu hakkında konuşmak için bu insanlarla konuşuyoruz. Çoğunlukla, yasa tasarısının bu paydaşlar açısından pek fazla değişmediğini duyuyoruz. Aslında tasarı, robotların şu anda kullanıldığı çok iyi kullanımları engellemek değil, sıradan insanların robotları silah haline getirmeye çalışmasını önlemektir.
Tasarı kolluk kuvvetleri için de geçerli mi?
Kolluk kuvvetlerinin robotları kullanmasını engellemeye çalışmıyoruz. Kolluk kuvvetlerinden defalarca duyduğumuz şey, onların genellikle durumu hafifletmek için kullanıldıkları. Barikat durumları veya rehine durumları hakkında çok konuşuyorlar. Dehşet verici olmasın ama eğer insanlar hâlâ hayattaysa, yaralananlar varsa, polis göndermek yerine gerilimi azaltmanın genellikle daha yararlı olduğunu söylüyorlar ki bunun da çoğu zaman durumu tırmandırabileceğini biliyoruz. Yani hayır, bu kullanımların hiçbirini değiştirmeyeceğiz. Mevzuat, kolluk kuvvetlerinin bir polis memurunu göndermek yerine robot kullanıyorlarsa kullanmaları için izin almasını talep ediyor. Bu zaten oldukça yaygın. Acil bir durum değilse kolluk kuvvetlerinin bunu yapması gerekir. Aslında sadece şunu söylüyoruz: “Lütfen mevcut protokolü takip edin. Ve eğer insan yerine robot kullanacaksanız, protokolün hâlâ standart olduğundan emin olalım.”
Eminim robotları silah haline getirme girişimlerinin olduğu San Francisco ve Oakland gibi yerlerden gelen hikayeleri takip ediyorsunuzdur. Bu da buna dahil mi?
Kolluk kuvvetlerinin robotları silah haline getirmesine izin vermedik ve Massachusetts’teki kolluk kuvvetlerinden hiç kimse “Bir robota silah takmak istiyoruz” demedi. Sanırım geçmişteki bazı konuşmalardan dolayı bu yola girmeme arzusu vardı. Ve eğer polis bunu yapmaya başlarsa yerel toplulukların muhtemelen söyleyecek çok şeyi olacağını düşünüyorum. Yani mevzuat bunu doğrudan yasaklamasa da biz buna göz yummuyoruz.
Resim Kredisi: MSCHF
Tasarıda bunun önüne geçmeye yönelik bir girişim yok mu?
Mevzuatta yok. İnsanların köpekleri silah bağlayarak avlamak için kullanması ve buna benzer şeyler, görmek istediğimiz bir şey değil.
Şu anda muhalefet var mı?
Mevzuata herhangi bir itirazımız olmadı. Paydaşlardan elbette sorularımız vardı ama her şey nispeten olumluydu. Çoğu insanın – mevzuatta önerilen ince ayarlara rağmen – ulaşabileceğimiz ortak bir zemin olduğunu düşündüğünü gördük.
Paydaşlardan ne tür sorular alıyorsunuz?
Her zaman karşılaştığımız ilk soru şudur: “Bu neden önemli?”
Bunun paydaşların anlayabileceği bir şey olduğunu düşünürdünüz.
Ama çoğu zaman [companies ask] bunun ardındaki niyet nedir? Açık olmayan bir şey yapmaya çalıştığımız için mi, yoksa gerçekten sadece kötüye kullanım olmadığından emin olmaya mı çalışıyoruz? Boston Dynamics’in şunu söylemeye çalıştığını düşünüyorum: “Bir şey olmadan robotlarımızın olası kötüye kullanımının önüne geçmek istiyoruz.” Bence bu akıllıca.
Yeniliklerin engellenmesiyle ilgili sorularda herhangi bir geri dönüş olmadı mı?
Öyle düşünmüyorum. Aslında robotik ticaret birliğinin de bu konuda fikir sahibi olduğunu düşünüyorum. Ve tabii ki Boston Dynamics bu konuda gerçekten başı çekiyor. Firmalardan teşekkür notları aldık ancak herhangi bir geri dönüş almadık. Ve amacımız yeniliği engellemek değil. Robotların kullanılacağı pek çok harika şey olduğunu düşünüyorum. İnsanlar için çok güvensiz olabilecek durumlarda nasıl kullanılabileceğini takdir ediyorum. Ancak robotlara silah takmanın pek çok şirket tarafından araştırılan bir inovasyon alanı olduğunu düşünmüyorum.
13 Ağustos 2022’de Boston, Massachusetts’teki Fenway Park’ta Boston Red Sox ile New York Yankees arasında oynanan maçın havadan genel görünümü. (Fotoğraf: Billie Weiss/Boston Red Sox/Getty Images)
Massachusetts ilerici bir eyalettir, ancak Boston dünyanın en iyi robotik merkezlerinden biri olduğundan böyle bir yasa tasarısının peşinden giden ilk eyaletlerden biri olması ilginçtir.
Bu yüzden bunu ilk yapan biz olmak istedik. Mevzuatın bitiş çizgisine ulaşan ilk kişi olacağımızı da umuyorum. Bunun yeniliği engelleyip engellemediğini sordunuz. Ben bu yasa tasarısının yardımcı olduğunu savundum, çünkü şirketlere şunu söylemeleri için bir nebze olsun güvenlik sağlıyor: “Bu ürünleri kötü amaçlarla üretmiyoruz. Bu yenilik gerçekten çok iyi.” İnsanların dikkatli olmamız gerektiğini söylediğini duydum. Robotikçiler sadece robocoplar yaratmaya çalışıyorlar. Bu şirketlerin yaptığı bu değil. Çok özel durumlara yönelik, çok faydalı olabilecek ve insan hayatını kurtarmaya yardımcı olabilecek robotlar yaratmaya çalışıyorlar. Bu yüzden buna değer olduğunu düşünüyorum. Bunu robot endüstrisini engellemeye çalışmak yerine desteklemek olarak görüyoruz.
Tasarının oluşturulmasının arkasında San Francisco ve Oakland gibi yerlerden gelen bu hikayeler bir ilham kaynağı mıydı?
Dürüst olmak gerekirse, bunların Boston Dynamics için olduğunu düşünüyorum. Bizi aradılar.
Yani ilk konuşmayı Boston Dynamics mi teşvik etti?
Evet, benim bakış açıma göre bu, neden engel olmak yerine yardımcı olan bir yasa tasarısı.
Bu parçanın bir versiyonu ilk olarak TechCrunch’ın robot bilimi bülteni Actuator’da yayınlandı. Abone olun.