Kâr amacı gütmeyen Hermes Center, The Good Lobby ve info.nodes dernekleri tarafından başlatılan Don’t Spy EU kampanyası, yüz tanımanın yaygınlaşmasından kaynaklanan riskleri ve sonuçları azaltmak için Yapay Zeka Yasası metnine müdahale etmeyi öneriyor kamusal alanlardaki araçlar. Avrupa Birliği, tartışılan Yapay Zeka Yasası (AI Yasası) ile yalnızca yapay zekayı düzenlemeyi değil, aynı zamanda üretken (örneğin ChatGPT ve Midjourney) ve biyometrik yapay zeka gibi farklı yapay zeka türlerine ilişkin küresel standartlar oluşturmayı da hedefliyor. olanlar. DontSpyEU kampanyasının amacı, kitlesel gözetimi amaçlayan ayrımcı gözetime son vermektir.
Dijital hakların korunmasına yönelik üç derneğin öne çıktığı talepler arasında, erişilebilir kamusal alanlarda biyometrik kimlik belirlemenin tamamen yasaklanması, tahmin ve profilleme sistemlerinin polis tarafından kullanılmasının yasaklanması ve yapay zeka kullanımının yasaklanması yer alıyor. göç bağlamlarında, hassas kişisel verilere dayalı bireysel risk değerlendirmeleri ve profilleri yürütmek ve tahmine dayalı analiz sistemleri aracılığıyla göçü yasaklamak, azaltmak ve önlemek.
Birliğin zaten beyan ettiği amaç, biyometrik tanıma teknolojilerini frenleyerek vatandaşları kitlesel gözetleme tehlikelerinden korumaktır, ancak işler beklenmedik bir hal alabilir. Avrupa’nın yapay zeka düzenlemesine (AI Yasası) ilişkin son resmi olmayan kurumlar arası müzakere (üçlü) sırasında, bazı AB hükümetleri, gerçek zamanlı biyometrik tanımlama ve duyguların tanınmasına yönelik sistemlerin kullanımına ilişkin yasağın önemli ölçüde zayıflatılması için baskı yaptı. AI Yasası’nın son metninin onaylanması mücadelesinde merkezi olacak bir tema olan ulusal güvenlik ve “sınır savunması” adı.
Don’t Spy AB web sitesinde şöyle okuyoruz: “Yapay zeka yasası biyometrik yüz tanımaya izin veriyorsa, bu, kişisel mahremiyetin büyük ölçüde aşındığı bir dünya olan kötüye kullanıma ve kitlesel gözetime yol açacaktır. Yüz biyometrisi teknolojik bir ilerlemeden çok daha fazlasıdır. Her bireyin kendine özgü parmak izidir. Fiziksel temas gerektiren “geleneksel” baskıların aksine, bir kişinin yüzü, genellikle kişinin izni ve hatta bilgisi olmadan uzaktan yakalanabilir, saklanabilir ve işlenebilir.”
Bu gözetleme teknolojilerinin doğasında var olan tehlikeleri basitleştirmek için kampanya web sitesine, üçlemelerde yer alan tüm Avrupalı bakanların yüz tanımasını simüle eden, bunlar üzerinde açık kaynaklı bir RBI yüz tanıma algoritması çalıştıran ve sahte fotoğraflar veya derin sahte fotoğraflar yayınlayan bir sistem yerleştirildi ( bunlardan birinde Fransa Başbakanı Macron IŞİD bayrağını dalgalandırıyor). İkincisi, yüz biyometrisinin doğrulanması sayesinde çalışır ve aynı tür yazılımdan elde edilen veriler aracılığıyla, o kişinin gerçek hayatında zararlı sonuçlar doğurabilecek sahte görüntüler/videolar üretmek için kullanılabilir. Gözetim pazarını daha iyi temsil etmek için kampanyanın organizatörleri, kampanya sitesinin üçüncü taraflarca entegrasyonuna izin vermeye karar vererek, diğer geliştiricileri tanıma algoritmasını daha da iyileştirmeye davet etti ve bunu potansiyel ayrımcı kullanımlarını vurgulayabilecek diğer uygulamalarla tamamladı.
Good Lobby organizasyonunun altını çizdiği gibi, en kötü senaryoda demokrasilerin temellerini baltalayabilecek distopik senaryolar: “Avrupa çapında polis güçleri, yerel yetkililer ve özel şirketler, izleyen, analiz eden ve bunları takip eden deneysel ve istilacı teknolojileri gizlice yayıyor. Kamusal alanda hareket ederken yüzlerimizi ve bedenlerimizi nesnelere dönüştürüyoruz. Haklarımızın, özgürlüklerimizin ve topluluklarımızın korunması için ikincisi savunulmalıdır. Diğer birçok sivil toplum kuruluşuyla birlikte, ülkelerimizi halka açık yerlerde hak ve özgürlüklerimizi tehlikeye atabilecek biyometrik gözetim kullanımını ortaya çıkarmaya ve reddetmeye çağırıyoruz.”