Sürücüsüz araç sistemleri Kings College London’ın yeni bir araştırmasına göre önyargı sorunu var. çalışmak otonom sürüş araştırmalarında kullanılan sekiz yapay zeka destekli yaya algılama sistemini inceledi. Araştırmacılar yazılım aracılığıyla 8.000’den fazla görüntüyü inceledi ve otonom sürüşün olduğunu keşfettim Araba sistemleri yetişkin yayaları tespit etmede çocuklara göre neredeyse %20 daha iyi ve açık tenli yayaları tespit etmede %7,5’ten daha iyi. koyu tenli olanlar. Yapay zeka, düşük ışıkta ve düşük ayarlarda koyu tenli insanları tespit etmekte daha da kötüydü, bu da teknolojiyi geceleri daha da az güvenli hale getiriyordu.
Çocuklar ve siyahi insanlar için caddeyi geçmek yakın gelecekte daha tehlikeli hale gelebilir.
Araştırmanın yazarlarından biri olan Dr. Jie Zhang, “Yapay zeka söz konusu olduğunda adalet, bir yapay zeka sisteminin ayrıcalıklı ve ayrıcalıklı olmayan gruplara aynı şekilde davranmasıdır; otonom araçlar söz konusu olduğunda ise bu söz konusu değildir” dedi. basın bülteni. “Otomobil üreticileri yaya tespiti için kullandıkları yazılımın ayrıntılarını yayınlamıyor ancak bunlar genellikle araştırmamızda kullandığımız açık kaynaklı sistemler üzerine kurulu olduğundan, onların da aynı sorunlarla karşılaştıklarından oldukça emin olabiliriz. önyargı.”
Çalışma, ürünlerini halihazırda sokaklarda bulunduran sürücüsüz otomobil şirketlerinin kullandığı yazılımın aynısını test etmedi ancak otomobiller yaygınlaştıkça artan güvenlik endişelerini artırıyor. Bu ay Kaliforniya eyalet hükümeti verdi Waymo ve Cruise serbest çalışan San Francisco’da sürücüsüz taksi işletecek günde 24 saat. Zaten teknoloji bu kazalara neden olmak Ve protestoları alevlendirmek şehirde.
Sürücüsüz otomobilleriyle tanınan şirketlerden üçü olan Cruise, Waymo ve Tesla, yorum taleplerine hemen yanıt vermedi.
Araştırmacılara göre, teknolojinin çocuklar ve koyu tenli insanlarla ilgili sorunlarının ana kaynağı, daha fazla yetişkin ve açık tenli insanı içeren yapay zekayı eğitmek için kullanılan verilerdeki önyargıdan kaynaklanıyor.
Algoritmalar verilerde mevcut olan önyargıları yansıtırsetler ve onları yaratan insanların zihinleri. Yaygın bir örnek yüz tanıma yazılımısürekli olarak gösteren daha az doğruluk özellikle kadınların, koyu tenlilerin ve Asyalıların yüzleriyle. Bunlar endişeler bu tür yapay zeka teknolojisinin coşkuyla benimsenmesini engellemedi. Yüz tanıma zaten koymaktan sorumludur masum siyahi insanlar hapiste.
