Rite Aid, ABD Federal Ticaret Komisyonu (FTC) ile yapılan anlaşmanın bir parçası olarak gözetim için yüz tanıma teknolojisinin kullanılmasına beş yıl süreyle yasak koymayı kabul etti.
Karar, FTC’nin teknolojinin kötüye kullanıldığı ve tüketicilere zarar verdiği yönündeki suçlamalarının ardından geldi. Rite Aid, 2012’den 2020’ye kadar hırsızlık yapanları tespit etmek için yapay zeka destekli yüz tanımayı uyguladı. Ancak FTC, sistemin belirli müşterileri yanlışlıkla daha önce hırsızlık yapan kişiler olarak tanımladığını ve “beyaz olmayan insanları orantısız bir şekilde etkilediğini” söyledi.
Rite Aid, mağaza hırsızlıklarını azaltmayı ve müşteriyle ilgili diğer sorunları ele almayı amaçlayan, gözetleme görüntülerindeki kişileri tanımlamak için yüzlerce mağazasında yapay zeka destekli yüz tarama teknolojisini kullandı. FTC, uygun önlemlerin bulunmaması ve teknolojinin yanlışlıklar ve ırksal önyargı geçmişi nedeniyle Rite Aid personelinin sıklıkla müşterileri haksız yere hırsızlıkla suçladığını söyledi.
FTC Tüketiciyi Koruma Bürosu müdürü Samuel Levine, “Rite Aid’in yüz izleme sistemlerini dikkatsizce kullanması, müşterilerini aşağılanma ve diğer zararlarla karşı karşıya bıraktı ve sipariş ihlalleri tüketicilerin hassas bilgilerini riske attı.” dedi. haber bülteni. “Bugünkü çığır açan emir, Komisyonun halkı adil olmayan biyometrik gözetim ve adil olmayan veri güvenliği uygulamalarından koruma konusunda dikkatli olacağını açıkça ortaya koyuyor.”
FTC’ye göre, Rite Aid’in sistemi, müşterileri mağazaya girerken taramak için yüz tanımayı kullandı ve yüzlerini, hırsızlık yaptığından şüphelenilen veya doğrulanan kişilerden oluşan kapsamlı bir veri tabanıyla karşılaştırdı. Sistem bir eşleşme bulduğunda, personeli bu müşteriyi yakından izlemesi konusunda uyarıyordu. Fotoğraf veritabanı, grenli gözetleme görüntüleri ve cep telefonlarından alınan düşük kaliteli görüntülerle doluydu ve bu da güvenilmez eşleşmelere yol açıyordu. Resimlerde yaşanan sorunlar, personelin herhangi bir suça tanık olmadan müşterileri takip etmesine veya polisi aramasına neden oldu.
Federal yetkililer ayrıca Rite Aid’in müşterilerini yüz tanıma teknolojisinin kullanımı konusunda bilgilendirmediğine dikkat çekti ve çalışanlarına bu teknolojinin kullanımını hem müşterilerden hem de medyadan gizli tutmaları talimatını verdi. FTC, Rite Aid’in on binlerce görsel içeren “ilgili kişiler” veritabanını oluşturmak için adı açıklanmayan iki şirketle işbirliği yaptığını iddia etti.
Rite Aid, FTC ile yaptığı anlaşmanın devam eden iflas davasına bakan mahkeme tarafından onaylanması gerektiğini söyledi. Şirket Ekim ayında iflas korumasına başvurmuştu.
Şirket, “İddialar, şirketin sınırlı sayıda mağazada uyguladığı yüz tanıma teknolojisi pilot programıyla ilgili” dedi. bir açıklamada söyledi. “Rite Aid, FTC’nin Şirketin teknoloji kullanımına ilişkin soruşturması başlamadan önce, üç yıldan fazla bir süre önce bu küçük mağaza grubunda teknolojiyi kullanmayı bıraktı.”
Domino Data Lab’da veri bilimi stratejisi ve evanjelizm başkanı Kjell Carlsson, FTC yasağının ABD’deki yapay zeka düzenlemesinin merkezi olmayan doğasını örneklediğini söyledi.
“AB Yapay Zeka Yasasının yapay zekaya odaklanan çok ciddi para cezalarıyla desteklenen tutarlı düzenlemeler vaat ettiği AB’den farklı olarak, ABD’de şirketler federal kurumlar, eyalet ve belediye yasa yapıcıları tarafından çoğunlukla yapay zekaya odaklanan nispeten küçük cezalarla değişen, değişen düzenlemelerle karşı karşıyadır. yapay zekanın kendisinden ziyade verilerin kötüye kullanılmasıdır” diye ekledi.
Telif Hakkı © 2023 IDG Communications, Inc.