Ayin Yardımı oldu yasaklandı Federal Ticaret Komisyonu’nun (FTC), ABD eczane devinin “yüz izleme sistemlerini dikkatsizce kullanmasının” müşterileri küçük düşürdüğünü ve “hassas bilgilerini riske attığını” tespit etmesinden sonra yüz tanıma yazılımını beş yıl boyunca kullanmaktan men edildi.
FTC’ler EmirRite Aid’den sonra ABD İflas Mahkemesi’nin onayına tabidir. Bölüm 11 iflas koruması için başvurdu Ekim ayında ayrıca Rite Aid’e, yüz tanıma sisteminin kullanıma sunulması kapsamında topladığı tüm görselleri ve bu görüntülerden oluşturulan ürünleri silme talimatı verdi. Şirketin ayrıca topladığı kişisel verileri korumak için sağlam bir veri güvenliği programı uygulaması gerekiyor.
Bir Reuters 2020 yılına ait rapor eczane zincirinin, 2012’den başlayarak sekiz yıllık bir süre boyunca yaklaşık 200 ABD mağazasında gizlice yüz tanıma sistemlerini nasıl devreye soktuğunu ve “büyük ölçüde düşük gelirli, beyaz olmayan mahallelerin” teknoloji test ortamı olarak hizmet ettiğini ayrıntılı olarak açıkladı.
FTC’nin artmasıyla birlikte biyometrik gözetimin kötüye kullanılmasına odaklanmak, Rite Aid, hükümet kurumunun hedefine sıkı bir şekilde düştü. İddialar arasında Rite Aid’in iki anlaşmalı şirketle ortaklaşa, şirketin mağazalarından birinde suç faaliyetinde bulunduğunu söylediği müşterilerin resimlerini içeren bir “izleme listesi veritabanı” oluşturduğu da yer alıyor. Çoğu zaman kalitesiz olan bu görüntüler CCTV veya çalışanların cep telefonu kameralarından çekildi.
Bir müşteri, veri tabanındaki mevcut bir görselle sözde eşleşen bir mağazaya girdiğinde, çalışanlar harekete geçmeleri talimatını veren otomatik bir uyarı alıyordu ve çoğu zaman bu talimat, müşterinin kimliğini doğrulamak ve doğrulamak anlamına gelen “yaklaşıp tanımlamak” içindi. ayrılmalarını rica ediyoruz. FTC’ye göre bu “eşleşmeler” çoğu zaman çalışanların müşterileri hatalı bir şekilde yanlış davranışta bulunmakla suçlamasına ve “utanç, taciz ve diğer zararlara” yol açmasına yol açan hatalı pozitif sonuçlardı.
“Yanlış pozitif alarmlara göre hareket eden çalışanlar, mağazalarının çevresinde tüketicileri takip etti, onları aradı, ayrılmalarını emretti, tüketicilerin karşısına çıkması veya onları uzaklaştırması için polisi aradı ve onları, bazen arkadaşlarının veya ailelerinin önünde, hırsızlık veya diğer suçlarla kamuoyu önünde suçladı. “diye yazıyor şikayet.
Ek olarak FTC, Rite Aid’in müşterilere yüz tanıma teknolojisinin kullanıldığı konusunda bilgi vermediğini ve aynı zamanda çalışanlara özel olarak bu teknolojinin kullanılması talimatını verdiğini söyledi. Olumsuz bu bilgiyi müşterilere açıklayın.
Yüzleşme
Yüz tanıma yazılımı, yapay zeka destekli gözetim çağının en tartışmalı yönlerinden biri olarak ortaya çıktı. Geçtiğimiz birkaç yılda şehirlerin bu teknolojiye kapsamlı yasaklar getirdiğini, politikacıların ise polisin bu teknolojiyi nasıl kullanacağını düzenlemek için mücadele ettiğini gördük. Bu arada Clearview AI gibi şirketler de yüz tanıma teknolojisiyle ilgili büyük veri gizliliği ihlalleri nedeniyle dünya çapında davalarla ve para cezalarıyla karşı karşıya kaldı.
FTC’nin Rite Aid ile ilgili son bulguları, yapay zeka sistemlerindeki doğal önyargılara da ışık tutuyor. Örneğin, FTC, Rite Aid’in belirli tüketicilerin ırklarından dolayı maruz kaldığı riskleri azaltmada başarısız olduğunu söylüyor – teknolojisinin “beyazların çoğunlukta olduğu topluluklara kıyasla, çoğulcu Siyah ve Asyalı topluluklarda bulunan mağazalarda yanlış pozitifler üretme olasılığı daha yüksekti”. bulgular notu.
Ek olarak FTC, Rite Aid’in konuşlandırma öncesinde veya sonrasında doğruluğunu veya yüz tanıma sistemini test etmede veya ölçmede başarısız olduğunu söyledi.
İçinde basın bülteniRite Aid, “FTC ile anlaşmaya varmaktan memnuniyet duyduğunu” ancak iddiaların özüne katılmadığını söyledi.
Rite Aid, açıklamasında “İddialar, Şirketin sınırlı sayıda mağazada uyguladığı yüz tanıma teknolojisi pilot programıyla ilgili” dedi. “Rite Aid, FTC’nin Şirketin teknoloji kullanımına ilişkin soruşturması başlamadan önce, üç yılı aşkın bir süre önce bu küçük mağaza grubunda teknolojiyi kullanmayı bıraktı.”
