Ulusal İnsan Hakları Danışma Komisyonu, Paris Olimpiyatları sırasında kullanılacak algoritmik video gözetimi deneyleriyle ilgili ciddi eleştiriler yapıyor.
Orada CNCDH Fransız hükümetine insan hakları konusunda danışmanlık yapma işlevi bulunan şirket, yapay zeka için geliştirilen video gözetimini inceliyor. Paris Olimpiyatları. Komisyon, kamu yetkililerinin “ denge bozuldu “, ” Temel hak ve özgürlüklere yönelik saldırılar ile kamu düzeninin korunması arasında “. Bu hakkında ” şirket tercihimiz » dergisinde yayımlanan görüşüyle kurumu alarma geçirdi. Resmi gazete bu Salı ve web sitesinde.
Yapay zeka destekli video gözetimi, kullanım talimatları
Bu yapay zeka programları başlangıçta Fransa’daki tüm şehir kameralarının yakaladığı görüntüleri analiz etmek için tasarlandı. Nasıl çalışır ! Videoların bilgisayarda işlenmesi, Olimpiyatlar çerçevesinde yüz tanıma teknolojilerine başvurmadan gerçek zamanlı olarak gerçekleştiriliyor. İçişleri Bakanlığı. Sistem, program tarafından anormal olarak nitelendirilen “olayların” otomatik olarak tespit edilmesine ve kamu düzenini bozabilecek belirli kişilerin takip edilmesine olanak sağlıyor. Gözetleme kameraları bu sayede menzil içindeki tüm insanların hareketlerini ve davranışlarını tarayıp geçici olarak kaydedebilmektedir.
Yapay zeka video gözetimi Mart 2025’e kadar test edilecek
Mayıs 2023’te yapılacak Paris Olimpiyatları’na ilişkin yasaya göre deneyim şu şekilde genişletilebilir: diğer olaylareğer tatmin ediciyse. İnsan Hakları Ulusal Danışma Komisyonu’nu endişelendiren de budur: “ özel aktörlerin benzeri görülmemiş katılımı » egemen bir misyonda zaten bir ilk adımdır ” Temel hak ve özgürlüklerin sorgulanması ”ve esas olarak“ kamusal alanlarda anonim olarak gösteri yapma özgürlüğü “.
Komisyon aynı zamanda tekrar eden bir sorunun olduğunu da hatırlatır: algoritmik araçlar tarafından geliştirilmiş özel firmalar çoğunlukla beyaz erkeklerin aşırı temsil edildiği görsellere ilgi duymalarıdır. Bunlar “ Yazılım, Afrika kökenli insanları tespit ederken daha fazla hata yapıyor, hatta kadınlar söz konusu olduğunda daha da fazla hata yapıyor » Asılsız uyarıları tetikleyerek. Başka bir sorun, Fransız mevzuatı bu yazılımın güvenlik kameralarıyla birlikte kullanılmasını sağlıyor” sürekli kontrol altında kalmak » Bir insan ajanın, ancak zaman ve kaynak yetersizliğinden dolayı, makine bir uyarı başlattığı anda kendilerini cellat konumunda bulacak olan kişi. “ Sonuçta tehlikede olan şey bir şirket seçimi » diye bitiriyor. Ya siyasi karar vericiler bunun gerekli olduğuna inanıyor” kamusal alanda özgürlüğün, bedenlerin ve zihinlerin önceliğini sağlamak » veya tam tersine, genelleştirilmiş ve otomatikleştirilmiş gözetim yoluyla vatandaşların temel özgürlüklerini kısıtlamaya karar vermek.
Bu gözetim teknolojilerinin, daha az otoriter olmayan ülkelerde, sözde otoriter liderlerin eline geçtiğinde nasıl kullanıldığını gördüğümüzde, anekdot olmaktan çok uzak bir konu.