Avrupa parlamentosunda 40 milletvekilinden oluşan partiler arası bir grup, yapay zeka ile ilgili olarak gelen bir yasa teklifini, halka açık yerlerde yüz tanıma ve diğer biyometrik gözetim biçimlerinin kullanımına yönelik açık bir yasağı da içerecek şekilde güçlendirmeye çağırdı.
Ayrıca, AB milletvekillerini, insanların hassas özelliklerinin (cinsiyet, cinsellik, ırk / etnik köken, sağlık durumu ve engellilik gibi) otomatik olarak tanınmasını yasaklamaya çağırdılar. Bu tür AI (Artificial intelligence – Yapay Zeka) destekli uygulamaların çok büyük bir hak riski oluşturduğu ve ayrımcılığı körükleyebileceği konusunda uyarıda bulundular.
Komisyonun, AI’nın ‘yüksek riskli’ uygulamalarını düzenleyen bir çerçeve önerisini önümüzdeki hafta sunması bekleniyor. Ancak taslağın bir kopyası bu hafta ( Politico aracılığıyla ) sızdırıldı, daha önce de bilindiği gibi, bu sızan taslak, kamuoyunun konuyla ilgili endişesinin gücünü kabul etmesine rağmen, halka açık yerlerde yüz tanıma veya benzeri biyometrik uzaktan tanımlama teknolojilerinin kullanımına ilişkin bir yasağı içermiyor.
“Kamusal olarak erişilebilen alanlarda biyometrik kitle gözetleme teknolojisi, çok sayıda masum vatandaşı yanlış bir şekilde rapor ettiği, az temsil edilen gruplara karşı sistematik olarak ayrımcılık yaptığı ve özgür ve çeşitli bir toplum üzerinde tüyler ürpertici bir etkiye sahip olduğu için yaygın olarak eleştiriliyor. Bu nedenle bir yasağa ihtiyaç var ”diyor milletvekilleri şimdi Komisyon’a gönderdikleri bir metinde bunları da kamuoyuna açıkladılar.
“Bu, gizlilik ve veri koruma haklarının ihlali dahil olmak üzere zararlara yol açabilir; ifade özgürlüğünü bastırmak; yolsuzluğun açığa çıkmasını zorlaştıran; ve herkesin özerkliği, haysiyeti ve kendini ifade etmesi üzerinde ürpertici bir etkiye sahip. Özellikle beyaz olmayan insanlara ve diğer ayrımcılığa maruz kalan gruplara ciddi şekilde zarar verebilir, “diye yazıyor AB milletvekilleri komisyonu yapay zeka önerisini şu şekilde değiştirmeye çağırıyor: AB vatandaşlarının haklarını ve yüksek ayrımcılık riskiyle karşı karşıya kalan toplulukların haklarını (ve dolayısıyla AI ile aşırı yüklü ayrımcı araçlardan kaynaklanan riski artıran) korumak için uygulamaların kısıtlandırılması.
Komisyon’un önerisinin sızdırılan taslağı, ayrım gözetmeyen kitlesel gözetimi ele alıyor. Bu uygulamayı yasaklamanın yanı sıra genel amaçlı sosyal kredi puanlama sistemlerini de yasadışı ilan ediyor.
Ancak milletvekilleri milletvekillerinin daha da ileri gitmesini istiyor. Sızdırılan taslağın lafzındaki zayıflıklar konusunda uyarıda bulunuyor ve önerilen yasağın “sisteme kaç kişi maruz kalırsa kalsın, tüm hedefsiz ve ayrım gözetmeyen kitlesel gözetimi” kapsamasını sağlamak için değişiklikler öneriyorlar.
Ayrıca, kamu yetkilileri (veya onlar için çalışan ticari kuruluşlar) için kitlesel gözetim yasağına muafiyet verilmesi önerisinde ise açılım yapılması gerekiyor – bunun mevcut AB mevzuatından ve bloğun bu alandaki en üst mahkemesinin yorumlarından sapma riski olduğu konusunda uyarıda bulunuyorlar.
“Kamu makamlarını ve hatta ‘kamu güvenliğini korumak için’ onlar adına hareket eden özel aktörleri muaf tutacak olan bu 4. Maddenin önerilen ikinci paragrafını şiddetle protesto ediyoruz,” diye yazıyorlar. “Kamu güvenliği tam olarak kitlesel gözetimin haklı olduğu şeydir, pratik olarak uygun olduğu yerdir ve mahkemelerin kişisel verilerin gelişigüzel toplu işlenmesine ilişkin mevzuatı tutarlı bir şekilde iptal ettiği yerdir (örneğin Veri Saklama Direktifi). Bunun silinmesi gerekiyor.”
“Bu ikinci paragraf, Adalet Divanı’nın şimdiye kadar kitlesel gözetimi yasaklamak için yorumladığı diğer ikincil mevzuattan sapacak şekilde bile yorumlanabilir” diye devam ediyorlar. “Önerilen AI yönetmeliği, veri koruma müktesebatından kaynaklananlara ek olarak gerekliliklerinin de geçerli olduğunu ve onun yerine geçmediğini açıkça belirtmelidir. Sızdırılan taslakta böyle bir netlik yok.”