Eski bir Uber Eats kuryesi, şirketin “ırkçı” yüz tanıma yazılımı nedeniyle haksız yere işten çıkarıldığını iddia ederek gıda dağıtım şirketine karşı yasal işlem başlattı.
Uber Eats sürücülerinin, kimliklerini doğrulamak için vardiyaya başlamadan önce bir selfie çekmesi gerekiyor. Ancak Pa Edrissa Manjang, Uber Eats uygulamasının kendisine günde birden fazla selfie çekmesini söylediğini, çünkü yazılımın yanlışlıkla başka biri olduğunu düşündüğünü söyledi.
Siyah olan Manjang, “Görünüşe göre algoritmanız ırkçı” dedi.
Çarşamba günü bir iş mahkemesi, Uber’in ayrımcılık iddiasını reddetme hareketini reddetti, bu da davanın tam duruşmaya taşınacağı anlamına geliyor.
Bir Uber sözcüsü söyledi UKTN “Bay Manjang’ın kurye hesabına erişimini geçici olarak kaybetmesinin nedeni otomatik yüz doğrulaması değildi”.
Sözcü, Uber Eats’ın Gerçek Zamanlı Kimlik Kontrolü’nün güvenlik ve güvenlik amacıyla kullanıldığını ekledi.
Sözcü, “Sistem, birinin geçimiyle ilgili kararları boşlukta, gözetim olmadan almadığımızdan emin olmak için sağlam bir insan incelemesi içeriyor” dedi.
Manjang söylenmiş en Muhafız Uber’in teslimat sürücülerine “değer vermediğini” veya “saygı duymadığını” ve “agresif bir şekilde” hareket ettiğini.
Manjang, “Sonuç olarak, onlar için çalışan insanlar için biz sadece birer sayıyız” dedi.
AI yanlılığı
Uber, yüz tanıma yazılımının ırksal olarak önyargılı olduğu yönündeki suçlamalarla ilk kez karşılaşmıyor. Geçen yıl Ekim ayında Abiodun Ogunyemi iş mahkemesi davası açtı Uber’in otomatik yüz tarama yazılımının onu tanımaması ve işten çıkarılmasına yol açmasından sonra.
AI uzmanları, yüz tanıma sistemlerinin genellikle etnik azınlık kökenli insanları tanımlamada o kadar doğru olmadığını söylüyor. Bunun genellikle, algoritmayı eğitmek için kullanılan verilerin beyaz erkeklere doğru eğilme eğiliminde olduğunu ve bu da yazılımın bu demografiden insanları diğerlerine kıyasla daha doğru tanımlamasını sağladığını söylüyorlar.
Uber, yüz tanıma teknolojisinin kullanımıyla ilgili yasal sorunlarla karşılaşan tek şirket değil. Dün Big Brother Watch, Güney Kooperatifi’ne 35 mağazasında teknolojinin kullanımıyla ilgili şikayette bulundu.
Clearview AI, bu yılın başlarında milyarlarca görüntüyü yasa dışı olarak topladığı için Bilgi Komisyonu Ofisi (ICO) tarafından 7,5 milyon sterlin para cezasına çarptırıldı. ICO şu anda araştırıyor AI’nın ırksal bir önyargısı varsa.
Dijital kimlik uygulamalarının kullanımının ülke genelinde giderek arttığı bir dönemdeyiz. Bazı sinemalar, yaşı kanıtlama yöntemi olarak dijital kimlikleri kabul etmeye başladı.
