IBM, ırksal profil oluşturma, kitlesel gözetleme ve diğer insan hakları ihlalleriyle ilgili endişeler nedeniyle teknoloji üzerinde çalışmayı bıraktığını duyurduktan sadece üç yıl sonra yüz tanıma pazarına geri döndü.
Haziran 2020’de George Floyd’un öldürülmesinin ardından Siyahların Hayatı Önemlidir protestoları ABD’yi kasıp kavururken, IBM CEO’su Arvind Krishna Kongre’ye mektup yazdı şirketin artık “genel amaçlı” yüz tanıma teknolojisi sunmayacağını duyurdu. “Irkçılığa karşı mücadele her zamanki gibi acildir” diye yazdı. “IBM, diğer sağlayıcılar tarafından sunulan yüz tanıma teknolojisi de dahil olmak üzere hiçbir teknolojinin toplu gözetleme, ırksal profil oluşturma, temel insan hakları ve özgürlüklerinin ihlali amacıyla veya değerlerimiz ve İlkelerimiz ile tutarlı olmayan herhangi bir amaç için kullanılmasına kesinlikle karşı çıkar ve buna göz yummayacaktır. Güven ve Şeffaflık.” Aynı yılın ilerleyen zamanlarında şirket, yüz tanımanın yurt dışında “muhalefeti bastırmak, azınlık haklarını ihlal etmek veya mahremiyetle ilgili temel beklentileri ortadan kaldırmak için” kullanılabileceği yönündeki endişeleri gidermek için ABD ihracat kontrolleri çağrısında bulunarak taahhüdünü iki katına çıkardı.
Bu duyurulara rağmen IBM, geçen ay İngiliz hükümetiyle, göçmenlik ve kolluk kuvvetleri yetkililerine yüz tanıma işlevi sunacak ulusal bir biyometri platformu geliştirmek üzere 69,8 milyon dolarlık (54,7 milyon £) bir sözleşme imzaladı. Sınır Ve Özgürlük Araştırıyorİngiltere’de araştırmacı gazetecilik birimi.
A sözleşme bildirimi İçişleri Bakanlığı Biyometri Eşleştirme Platformu için projenin başlangıçta nasıl bir parmak izi eşleştirme yeteneği geliştirmeyi içerdiğini ana hatlarıyla belirtirken daha sonraki aşamalarda, “kolluk kuvvetleri için stratejik yüz eşleştirmeyi kolaylaştırıcı” olarak tanımlanan göçmenlik amaçlı yüz tanıma özelliği tanıtılıyor. Projenin son aşaması, “kolluk kuvvetlerinin kullanım senaryosu için yüz eşleştirme”nin teslim edilmesi olarak tanımlanıyor.
Home Office Biyometri Eşleştirme Platformu, bir veritabanındaki fotoğrafların “stratejik” şekilde eşleştirilmesini içerir
Platform, bireylerin fotoğraflarının bir veritabanında depolanan görüntülerle eşleştirilmesine olanak tanıyacak; buna bazen “birden çoğa” eşleştirme sistemi de deniyor. Eylül 2020’de IBM, bu tür “birden çoğa” eşleştirme sistemlerini “toplu gözetleme, ırksal profil oluşturma veya diğer insan hakları ihlalleri için kullanılması en muhtemel yüz tanıma teknolojisi türü” olarak tanımladı.
IBM sözcüsü Imtiaz Mufti, sözleşmeye ilişkin çalışmalarının 2020 taahhütleriyle çeliştiğini reddetti. “IBM artık genel amaçlı yüz tanıma özelliği sunmuyor ve 2020 taahhüdümüze uygun olarak yüz tanımanın toplu gözetleme, ırksal profil oluşturma veya diğer insan hakları ihlalleri için kullanılmasını desteklemiyor” dedi.
“İçişleri Bakanlığı Biyometri Eşleştirme Platformu ve ilgili Hizmetler sözleşmesi, toplu gözetimde kullanılmaz. Şüphelilerin parmak izi ve fotoğraf verilerinden oluşan bir veritabanına göre tespit edilmesinde polis ve göçmenlik hizmetlerine destek veriyor. Genellikle kalabalığın içinde yüz yüze biyometrik kullanımı desteklemek için gerekli olan video alımı özelliğine sahip değil.”
Ancak insan hakları savunucuları, IBM’in proje üzerindeki çalışmasının 2020 taahhütleriyle uyumsuz olduğunu söyledi. Black Lives Matter UK’den Kojo Kyerewaa şunları söyledi: “IBM, bir İçişleri Bakanlığı sözleşmesi peşinde koşmak için George Floyd’un bedenini ve anısını aşmaya istekli olduğunu gösterdi. Bu unutulmayacak.”
Uluslararası Af Örgütü’nün teknoloji araştırmacısı PhD Matt Mahmoudi şunları söyledi: “Dünya çapındaki araştırmalar net; İnsan hakları hukukuyla uyumlu bire-çok yüz tanıma uygulaması mevcut değildir ve bu nedenle şirketler (IBM dahil) bu araçların satışını durdurmalı ve özellikle hukuk bağlamında bile bu araçların kullanımdan kaldırılması yönündeki daha önceki beyanlarına saygı göstermelidir. ve haklara ilişkin etkilerin arttığı göçmenlik uygulamaları.”
“Birden çoğa yüz tanımanın insan hakları hukukuna uygun bir uygulaması yok.”
Polisin yüz tanıma özelliğini kullanması ABD’deki haksız tutuklamalarla ilişkilendirildi ve Birleşik Krallık mahkemelerinde buna itiraz edildi. 2019’da, Londra Metropolitan Polis Teşkilatı’nın canlı yüz tanıma kullanımına ilişkin bağımsız bir rapor, polisin bu teknolojiyi kullanmasına ilişkin “açık bir yasal dayanak” bulunmadığını ortaya çıkardı ve bunun insan hakları yasasını ihlal etmiş olabileceği yönünde endişeleri dile getirdi. Ertesi yılın Ağustos ayında Birleşik Krallık Temyiz Mahkemesi, Güney Galler Polisinin yüz tanıma teknolojisini kullanmasının gizlilik haklarını ihlal ettiğine ve eşitlik yasalarını ihlal ettiğine karar verdi. Polis, kararın ardından yüz tanıma özelliğini kullanmayı durdurdu ancak o zamandan beri teknolojiyi kullanmaya devam etti.
Diğer teknoloji firmaları, yüz tanıma hizmetlerinin kolluk kuvvetleri tarafından kullanılmasına kısmi yasaklar getirdi. IBM’in yüz tanıma sektöründen ayrılma planlarını açıklamasının ardından Amazon ve Microsoft, yüz tanıma hizmetlerinin ABD’deki polis departmanlarına satışına ilişkin moratoryumları duyurdu.
Amazon ilk olarak Haziran 2020’de Rekognition yazılımının polis tarafından kullanımına ilişkin bir yıllık moratoryum ilan etti ve yasağı bir sonraki yıl “süresiz” olarak uzatacağını söyledi. Şirketin bir sözcüsü, “Amazon Rekognition’ın yüz karşılaştırma özelliğinin polis departmanları tarafından cezai soruşturmalarla bağlantılı olarak kullanılmasını” yasaklayan moratoryumun hala yürürlükte olduğunu doğruladı.
Microsoft, Haziran 2020’de, teknolojinin kullanımını düzenleyen ulusal bir yasa çıkana kadar yüz tanıma yazılımını ABD polis departmanlarına satmayacağını söyledi. tarafından iletişime geçildiğinde Sınır ve Microsoft sözcüsü Liberty Investigates, şirketin web sitesine atıfta bulunarak Azure AI Face hizmetinin “ABD’deki eyalet veya yerel polis tarafından veya bunlar için kullanımının Microsoft politikası tarafından yasaklandığını” belirtti.
Birleşik Krallık İçişleri Bakanlığı yorum talebine yanıt vermedi.