Kendi kendine giden bir arabanın bir kişiye çarptığını görseniz ne yapardınız?
İçinde Robot EtiğiViyana Üniversitesi’nde Medya ve Teknoloji Felsefesi Profesörü Mark Coeckelbergh, 2022 için bir tramvay sorunu öne sürüyor: Araba rotasına devam edip beş yayayı mı öldürmeli yoksa rotasını değiştirip birini mi öldürmeli?
Burada sunulan bölümde Coeckelbergh, insanların robotları daha geniş bir çerçeve olarak nasıl kavramsallaştırdığını inceliyor ve sürücüsüz arabaların ölümcül trafik durumlarıyla nasıl başa çıkacağını ve bunun değerli bir soru olup olmadığını inceliyor.
2004 ABD bilim kurgu filminde ben robot, insansı robotlar insanlığa hizmet ediyor. Yine de her şey yolunda gitmiyor. Bir kazadan sonra, batan arabadan bir adam bir robot tarafından kurtarılır, ancak on iki yaşındaki bir kız kurtarılmaz. Robot, adamın hayatta kalma şansının daha yüksek olduğunu hesapladı; insanlar başka bir seçim yapmış olabilir. Filmin ilerleyen bölümlerinde robotlar gücü insanlardan almaya çalışıyor. Robotlar, insan davranışını kısıtlamanın ve bazı insanları öldürmenin insanlığın hayatta kalmasını sağlayacağına karar veren yapay zeka (AI), VIKI tarafından kontrol ediliyor. Film, insansı robotların ve yapay zekanın dünyayı ele geçirme korkusunu anlatıyor. Ayrıca, robotların ve yapay zekanın genel zekaya ulaşması durumunda varsayımsal etik ikilemlere işaret ediyor. Ama robot etiği bu mu ve bununla ilgili mi olmalı?
robotlar mı geliyor veya Zaten Buradalar mı?
Genellikle insanlar robotları düşündüklerinde akla gelen ilk görüntü, son derece zeki, insana benzeyen bir robottur. Genellikle bu görüntü, aşağı yukarı insanlara benzeyen ve davranan robotlar bulduğumuz bilim kurgudan türetilir. Pek çok anlatı, robotlar hakkında uyarır. devralan; korku, artık bizim hizmetkarlarımız değil, bunun yerine bizi köleleri haline getirmeleridir. “Robot” terimi Çekçe’de “zorla çalıştırma” anlamına gelir ve Karel Čapek’in oyununda geçer. RUR, 1921’de Prag’da sahnelendi – yüz yıldan biraz daha uzun bir süre önce. Oyun, Mary Shelley’nin yazdığı, insan benzeri isyan eden makinelerle ilgili uzun bir hikaye öyküsünde duruyor. Frankeştayn gibi filmlere 2001: Bir Uzay DestanıTerminatör, Bıçak Sırtıve ben robot. Halkın tahayyülünde, robotlar sıklıkla aynı anda hem korku hem de hayranlık nesnesidir. Bizi devralacaklarından korkuyoruz ama aynı zamanda bizim gibi yapay bir varlık yaratmayı düşünmek heyecan verici. Romantik mirasımızın bir parçası olan robotlar, yapay bir öteki yaratmakla ilgili rüyalarımızın ve kabuslarımızın yansımalarıdır.
Birincisi, bu robotlar çoğunlukla korkutucu; onlar canavar ve tekinsiz. Ancak yirmi birinci yüzyılın başında, Batı’da farklı bir robot imajı ortaya çıkıyor: refakatçi, arkadaş ve hatta belki de ortak olarak robot. Artık fikir, robotların endüstriyel fabrikalarla veya uzaydaki uzak gezegenlerle sınırlı kalmaması gerektiğidir. Çağdaş hayal gücünde, kirli köle işlerinden kurtulurlar ve eve hoş, yardımsever ve bazen konuşabileceğiniz seksi sosyal ortaklar olarak girerler. Bazı filmlerde eninde sonunda isyan ederler; eski makineörneğin, ama genellikle robot tasarımcılarının “sosyal robotlar” dediği şeye dönüşürler. onlar için tasarlandı “doğal” insan-robot etkileşimi – yani, diğer insanlarla veya evcil hayvanlarla etkileşime alıştığımız şekildeki etkileşim. Korkunç veya canavarca değil, bunun yerine sevimli, yardımcı, eğlenceli, eğlenceli ve baştan çıkarıcı olacak şekilde tasarlandılar.
Bu bizi gerçek hayata getiriyor. Robotlar gelmiyor; onlar zaten buradalar. Ancak bilim kurguda tanıştığımız robotlara pek benzemiyorlar. Frankenstein’ın canavarı ya da Terminatör gibi değiller. Bunlar endüstriyel robotlar ve bazen de “sosyal robotlar”dır. İkincisi, insanlar veya onların bilim kurgu akrabaları kadar zeki değildir ve çoğu zaman insan şekline sahip değildir. Seks robotları bile, resimde tasvir edilen robot kadar akıllı veya konuşma yeteneğine sahip değildir. eski makine. AI’daki son gelişmelere rağmen, çoğu robot hiçbir şekilde insansı değildir. Bununla birlikte, robotlar burada ve kalıcı olarak buradalar. Eskisinden daha zeki ve otonom işleyiş konusunda daha yetenekliler. Ve daha fazla gerçek dünya uygulaması var. Robotlar sadece endüstride değil, sağlık, ulaşım ve ev yardımında da kullanılıyor.
Çoğu zaman bu, insanların hayatını kolaylaştırır. Yine de sorunlar var. Bazı robotlar gerçekten tehlikeli olabilir – sizi öldürmeye veya baştan çıkarmaya çalışacakları için değil (her biriancak “katil dronlar” ve seks robotları da robot etiğinin menüsünde yer alır), ancak genellikle daha dünyevi nedenlerle, örneğin işinizi ellerinden alabilirler, sizi bir insan olduklarına inandırarak yanıltabilirler ve kazalara neden olabilirler. onları taksi olarak kullan. Bu tür korkular bilim kurgu değildir; yakın gelecekle ilgilidirler. Daha genel olarak, nükleer, dijital ve diğer teknolojilerin yaşamlarımız ve gezegenimiz üzerindeki etkisinden bu yana, teknolojilerin yaşamlarımızda, toplumlarımızda ve çevremizde temel değişiklikler yaptığına dair artan bir farkındalık ve kabul var ve bu nedenle daha fazla düşünsek iyi olur ve daha kritik olarak, kullanımları ve geliştirilmeleri hakkında. Bir aciliyet duygusu var: teknolojileri şimdi, çok geç olmadan, yani kimsenin istemediği etkilere sahip olmadan önce daha iyi anlıyor ve değerlendiriyoruz. Bu argüman, robotiklerin geliştirilmesi ve kullanımı için de yapılabilir: robotların ortaya çıkardığı etik sorunları ve bunların kullanımlarından sonra değil, geliştirme aşamasında ele alalım.
Sürücüsüz Arabalar, Ahlaki Temsilcilik ve Sorumluluk
Kendi kendine giden bir arabanın dar bir şeritte yüksek hızda gittiğini hayal edin. Çocuklar sokakta oynuyor. Arabanın iki seçeneği vardır: ya çocuklardan kaçınır ve bir duvara çarparak muhtemelen tek insan yolcuyu öldürür ya da yoluna devam edip fren yapar, ancak muhtemelen çocukların hayatını kurtarmak için çok geç kalmıştır. Araba ne yapmalı? Arabalar ne yapacak? Araba nasıl programlanmalı?
Bu düşünce deneyi, sözde tramvay ikilemi örneğidir. Bir pist tramvayı, bir raya bağlı beş kişinin üzerinden geçmek üzeredir. Rayın yanında duruyorsunuz ve arabayı bir kişinin bağlı olduğu başka bir raya yönlendiren bir kolu çekebilirsiniz. kolu çeker misin Hiçbir şey yapmazsanız, beş kişi ölecek. Kolu çekerseniz, bir kişi ölecek. Bu tür bir ikilem, insanların sürücüsüz arabaların neden olduğu ahlaki ikilemler olarak algılanan şeyler hakkında düşünmelerini sağlamak için sıklıkla kullanılır. Buradaki fikir, bu tür verilerin makinelerin karar vermesine yardımcı olabileceğidir.
Örneğin, Moral Machine çevrimiçi platformu, bir sürücünün “iki kötüden daha azını” seçmesi gerektiği durumlarda, dünya çapındaki kullanıcıların ahlaki tercihleri hakkında aldığı milyonlarca kararı bir araya getirdi. İnsanlara, sürücüsüz bir arabanın insanlara evcil hayvanlara, yolculara yayalara, kadınlara erkeklere vb. öncelik verip vermeyeceği soruldu. İlginç bir şekilde, yapılan seçimlerle ilgili olarak kültürler arası farklılıklar var. Örneğin, Japonya ve Çin gibi bazı kültürlerin gençleri yaşlılardan esirgeme olasılığı daha düşükken, Birleşik Krallık ve Amerika Birleşik Devletleri gibi diğer kültürlerin gençleri koruma olasılığı daha yüksekti. Dolayısıyla bu deney, yalnızca makinelerin etiğine yaklaşmanın bir yolunu sunmakla kalmıyor, aynı zamanda robotik ve otomasyondaki kültürel farklılıkların nasıl dikkate alınacağına dair daha genel bir soruyu da gündeme getiriyor.
Şekil 3 bir troley ikilem durumu örneğini göstermektedir: Araba rotasına devam edip beş yayayı mı öldürmeli yoksa rotasını değiştirip birini mi öldürmeli? Tramvay ikilemini sürücüsüz arabalara uygulamak en iyi düşünme şekli olmayabilir. sürücüsüz arabaların etiği hakkında; Neyse ki trafikte bu tür durumlarla nadiren karşılaşıyoruz, yoksa zorluklar daha sık olabilirKarmaşıktır ve ikili seçimleri içermez ve bu problem tanımı, etiğe özgü normatif bir yaklaşımı yansıtır. (sonuççuluk ve özellikle faydacılık). Literatürde tramvay ikilemlerinin gerçek etik zorlukları ne ölçüde temsil ettiğine dair tartışmalar vardır. Bununla birlikte, tramvay ikilemleri genellikle, robotlar daha özerk hale geldiklerinde, onlara bir tür ahlak verilip verilmeyeceği (eğer bundan kaçınılabilirse) sorusunu düşünmemiz gerektiği fikrinin bir örneği olarak kullanılır. yani nasıl bir ahlak. Ayrıca, otonom robotlar şu soruları gündeme getiriyor:ahlaki sorumluluk. Kendini düşünyine araba kullanmak
Mart 2018’de sürücüsüz bir Uber arabası bir yayayı öldürdü Tempe, Arizona’da. Arabada bir operatör vardı, ama kaza anında araba otonom durumdaydı mod. Yaya yaya geçidinin dışında yürüyordu. Volvo SUV, yaya geçidine yaklaşırken yavaşlamadı. Kadın. Bu bildirilen tek ölümlü kaza değil. 2016 yılında örneğin, otomatik pilot modundaki bir Tesla Model S arabası başarısız oldu otoyoldan geçen büyük bir kamyon ve römork tespit edin ve karavana çarparak Tesla sürücüsünü öldürdü. Birçok gözlemciye göre, bu tür kazalar sadece günümüzün teknolojik gelişiminin sınırlarını göstermekle kalmaz (şu anda öyle görünmüyor). arabaların trafiğe katılmaya hazır olması gibi) ve ihtiyaç düzenleme için; ile ilgili zorlukları gündeme getiriyorlar.sorumluluk dağılımı. Uber vakasını düşünün. Kim kazadan sorumlu mu? Araba yanıt alamıyorkardeşlik. Ancak dahil olan insan tarafların tümü potansiyel olarak sorumlu olun: bir araba kullanan Uber şirketi şapka henüz yola hazır değil; güvenli bir araba geliştiremeyen otomobil üreticisi Volvo; operatör aracı durdurmak için zamanında tepki vermeyen otomobil; the yaya geçidinde yürümeyen yaya; ve buna izin veren düzenleyiciler (örn. Arizona eyaleti) araba yolda test edilecek. Nasıl atfedeceğiz ve arabanın sürdüğü göz önüne alındığında sorumluluğu dağıtın özerk ve çok sayıda taraf dahil oldu? Nasıl her türlü otonoya sorumluluk mu atfedeceğiz?fare robot vakaları ve bu konuyu bir meslek (örneğin mühendisler), şirket ve toplum olarak – tercihen proaktif olarak kazalar olmadan önce – nasıl ele alacağız?
Bazı SorularCOtonom Robotlar ile ilgili
Uber kazasının da gösterdiği gibi, sürücüsüz arabalar tamamen bilim kurgukurgu inciyolda test ediliyorlar, ve araba üreticileri bunları geliştiriyor. Örneğin,Tesla, BMW ve Mercedes şimdiden otonom araçları test ediyorkles. Bu arabaların çoğu henüz tamamen otonom değil, ancak işler o yönde ilerliyor. Ve arabalar değil Etrafta sadece otonom ve akıllı robotlar var. Düşünmek evlerde ve hastanelerde yine otonom robotlar.
Farzedelim insanlara zarar veriyorlar mı? Bu nasıl önlenebilir? Yapmalı aktif olarak insanları zarardan koruyorlar mı? Ya onlar etik seçimler yapmak zorunda mıyız? kapasiteleri var mı böyle seçimler yapmak için? Ayrıca, bazı robotlar gelişmişöldürmek için çalıştırıldı (askeri robotlarla ilgili 7. bölüme bakın). Eğer Hedeflerini otonom olarak seçerler, bunu yapabilirler mi? etik bir yol (tartışma uğruna, varsayarsak, bu tür robotların öldürmesine hiç izin vermiyoruz)? nasıl bir ahlak kullanmalılar mı? Robotların bir ahlakı olabilir mi? İle birlikte Genel olarak otonom robotlarla ilgili olarak, soru şu: bir tür ahlaka ihtiyaçları var ve eğer bu mümkünse (eğer “ahlaki makinelere” sahip olabiliriz ve sahip olmalıyız). sahip olabilirler mi ahlaki ajans? Ahlaki ajans nedir? Ve robotlar olabilir mi? sorumluluk sahibi? Kim veya ne sorumludur ve sorumlu olmalıdır birşeyler yanlış gidiyor?
Dan uyarlandı Robot Etiği Mark Coeckelbergh tarafından. Telif Hakkı 2022. The MIT Press’in İzni İle Kullanılmıştır.