Paris 2024 Olimpiyat ve Paralimpik Oyunları hızla yaklaşırken, Millet Meclisi okuyor20 Mart’tan beri, bu olayla ilgili fatura. Senato tarafından 24 Ocak’ta kabul edilen on dokuz maddeden oluşuyor. benimsemeyi hedefliyorlarsa” arazi kullanım planlaması, şehir planlaması, barınma ve ulaşım ile ilgili kurallar », madde 7, Amacı yasaya algoritmik video izlemeyi (VSA) dahil etmek olan, birçok tartışmanın merkezinde yer alıyor. fırtınalı. Birkaç gün süren tartışmalardan sonra, hemicycle metin lehine oy kullandı59’a karşı 14 oyla.
Sorunlu bir fatura
İçin tasarlandı Olimpiyat ve Paralimpik Oyunlar sırasında güvenliği güçlendirmeköğe 7 şiddetle kınadı kamu özgürlüklerini savunan dernekler tarafından değil, aynı zamanda solcu milletvekilleri tarafından. Tasarı öneriyor VSA deneyiözellikle yapay zeka teknolojileri ile zenginleştirilmiş kameralar aracılığıyla, Aralık 2024’e kadar. 300’den fazla katılımcının olduğu tüm spor, eğlence ve kültür etkinlikleri için geçerli olacaktır.
Sabit ve yerleşik cihazlar, dronlar ve hatta uçaklar aracılığıyla hükümet ” terör eylemleri veya ciddi güvenlik ihlalleri riskleri insanlar “. Metin altını çizmek elde edilen görüntülerin sahip olacağı yalnızca önceden belirlenmiş olayları gerçek zamanlı olarak tespit etme amacıyla Bu riskleri sunması veya ortaya çıkarması muhtemeldir ve bunları rapor eder. “, yani kalabalıkların hareketleri ve şüpheli davranışlar. Senaryoların listesi henüz iletilmemiştir.
Bunu sağlamak için algoritmalar video izleme görüntülerini gerçek zamanlı olarak analiz edin. Giysilerin boyutu veya rengi gibi belirli verileri tanımak üzere eğitilirler, aynı zamanda cinsiyet veya ten rengi gibi daha hassas bilgiler. Uluslararası Af Örgütü ve diğer uluslararası kuruluşlar tarafından hoş karşılanmayan yöntemler. Bir forumda bir araya toplandıklarını açıklıyorlar. DünyaO ” bu önlemler uluslararası insan hakları hukukunu ihlal ediyorgereklilik ve orantılılık ilkelerini karşılamadıkları ve özel hayatın gizliliği hakkı, toplanma ve örgütlenme özgürlüğü hakkı ve ayrımcılık yapmama hakkı gibi çeşitli temel haklarla ilgili olarak kabul edilemez riskler içerdikleri sürece “.
Sol muhalefet tarafında da aynı hikaye. LFI-NUPES yardımcısı Élisa Martin şunları söyledi: Yüzyıl DijitalO VSA ” şimdiye kadar yasak “. Bunu 7. Madde aracılığıyla ekliyor, “ haklarımızın ihlali ile ilgili temeller “, çoğunluğun bunun yalnızca bir sorun olduğunu garanti ettiği yerde ” güvenlik güçlerimize karar desteği “.
Guillaume Vuilletet, Rönesans Milletvekili ve Anayasa Yasaları, Mevzuatı ve Cumhuriyet Genel Yönetimi Komitesi raportörü Yüzyıl Dijital ” planlı olmadığını ne biyometrik veri toplamaz ne de yüz tanıma kullanır ve hiçbir durumda genel bir gözetim oluşturmak için “. Onun için bu teknolojinin kurulumu bitmiş olmalı” mahremiyete ve bireysel özgürlüklere saygı ile “, özellikle saygı duymak ” vatandaşların özgürlüğü ve dijital verilerin kullanımı ile ilgili olarak Genel Veri Koruma Düzenlemeleri (GDPR) ve Veri Koruma Yasası “.
Fransa ve Avrupa’da zaten denetlenen bir teknoloji
Algoritmik video gözetimi yeni değil ve Fransa’nın birçok şehrinde zaten var, valilik iznine tabidir. kampanyası sırasında Teknopolis », üç buçuk yıl önce başlatılan, İnternette hak ve özgürlüklerin savunulması ve geliştirilmesi için bir dernek olan La Quadrature du Net, VSA cihazlarının tanımlanmış konumları.
Haritalar: La Quadrature du Net.
Lüksemburg Barosu avukatı Arnaud Touati, Yüzyıl Dijital O 1978 tarihli “Informatique et Libertés” yasası bu teknolojiyi yönetir. Ancak Avrupa Birliği’nin de kontrolüne katkıda bulunduğunu ekliyor.
” GDPR, kuruluşların VSA sistemlerini kullanmasını zorunlu kılar ilgili kişilerin rızasını almak için ve toplanan verilerin hukuka uygun, adil ve şeffaf bir şekilde kullanılmasını sağlamak gözlemledi. Aynı şekilde, polis ve yargı için Kişisel Verilerin Korunması Yönergesi “ algoritmik video gözetimi kullanarak kamu makamlarına yükler insanların temel haklarına saygı duymak “.
Ulusal Veri Koruma Komisyonu (CNIL) ayrıca VSA üzerine düşünmeye katılır. Ocak 2022’de “ bu tür cihazlar hiçbir şekilde mevcut kameraların basit bir teknik “uzantısı” ” ve şu'” algılama ve otomatik analiz kapasiteleri sayesinde doğalarını değiştirirler “. Bununla birlikte, bu teknolojiyi yasal olarak kabul etmektedir. resmi makamlarca izin verilmişse düzenleyici veya yasal bir metin aracılığıyla. O yaptı 2023 için öncelikli dosyalarından biri.
tarafsızlık meselesi
Algoritmik video gözetimini yasalaştırın birçok etik soruyu gündeme getirir, kullanımlarının şeffaflığı ve sonuçta ortaya çıkan seçeneklerin tarafsızlığı ile bağlantılıdır. Bu anlamda, La Quadrature du Net’in hukuki ve politik analizlerinden sorumlu Noémie Levain, damgalamaya dayalı bir siyasi projeyi kınıyor.. o emanet Yüzyıl Dijital bu teknolojilerden en çok etkilenen insanların “olacağını” en savunmasız ve güvencesiz insanlar çünkü sokakta en çok vakit geçiren onlar. “. Onun için video gözetiminde yapay zeka kullanmak, ” pek çok suistimale açık kapı bırakıyor “.
Algoritma oluşturma süreci tarafsız değil, şüpheli olarak sınıflandırılan olayların belirlenmesinde olduğu gibi. Yarım daire içinde, İçişleri Bakanı Gérald Darmanin güvence vermek istiyor, ” önceden belirlenmiş olaylar kanunen anormal veya şüpheli olarak nitelendirilmemiştir ve [la VSA] insanları değil, durumları tanımlar ateş başlangıcı gibi “.
Muhalefet, bu teknolojilerin şeffaflığını sağlamak için “elde etmeyi amaçlayan bir değişiklik” önerdi. Geliştirilen algoritmanın kodunda tam şeffaflık “. Milletvekillerinin el kaldırarak yaptığı oylamanın ardından, ikincisi reddedildi.
etkisiz izleme
Derneğin avukatı Noémie Levain ayrıca VSA’nın etkinliğini sorgulamaktadır. Kanıt olarak bu teknolojinin nadir raporlarını, değerlendirmelerini istiyor ” çok etkili değil “. Suçların% 2’sinden azı video gözetimi ile çözülecektir. ” Suçluluğu azaltmaz ve suçların çözülmesine zar zor yardımcı olur “diye not etti.
Muhalefet milletvekilleri için böyle bir cihazın etkinliği zaten başarısızlığa mahkum. Bir parlamento oturumu sırasında, 31 Ekim’de Seul’de meydana gelen ve 154 kişinin ölümüyle sonuçlanan kalabalık hareketi örneğine atıfta bulunan Élisa Martin, ” yönlendirmek ve yardım getirmek için insan anlayışından yoksundu “. Güney Kore’nin başkentinde VSA olduğunu doğrulayan Modem yardımcısı Philippe Latombe tarafından çelişen bir argüman ” sadece suçlar için kullanılır ve kalabalık hareketleri için değil “.
Sektördeki şirketlerin öne sürdüğü yasa tasarısı
La Quadrature du Net tarafından öne sürülen bir diğer nokta da yasa tasarısıdır. güvenlik motivasyonlarından daha ekonomik olabilir. Noémie Levain buna inanıyor sektördeki firmalar tarafından itilmektedir. ” Olimpiyat ve Paralimpik Oyunları onlara hem vitrin hem de laboratuvar olarak hizmet edin “, o soruyor.
Dernek, VSA tarafından yakalanan görüntülerin potansiyel olarak algoritmalarını beslemek için şirketlerle paylaşılabilir.. İkincisi, hizmetlerini yurtdışında satabiliyor. Élisa Martin, algoritmik video gözetimin özel sektöründeki üreticilerin ” Yalnızca Fransa’da 2020 yılı için 1,6 milyar Euro ciro “.
Bu sistemin sürdürülebilirliğine yönelik mi?
Algoritmik video gözetimine karşı kampanya yürütenler için, 2024 Olimpiyat ve Paralimpik Oyunları Yasa Tasarısı’nın 7. Maddesi sadece isimde tecrübesi var. Milletvekiline göre, Amaç bu sistemlerle deney yapmaktır. onları önemsizleştirmek ve sonra onları genel hukukumuza entegre etmek için. Amaç genelleştirilmiş bir gözetim toplumunun sosyal kabul edilebilirliğini artırmak “.
Noémie Levain’in bahsettiği “kara kutulara” benzer bir model2015 istihbarat kanunu kapsamında, veya 2017’de olağanüstü hal. ” Para harcandıktan sonra, güvenlik servisleri eğitildi, VSA’nın sürdürüleceği kesindir diye alarma geçiyor. Bir “bildiriyor klasik strateji », zaten birçok spor etkinliğinde kullanılıyor.
Rusya’da, 2018’de FIFA Dünya Kupası Moskova’da yüz tanıma kullanımını yaygınlaştırdı. Aynı şey 2012 Londra Olimpiyatları için de geçerli ve o zamandan beri, şehirdeki video gözetiminin bakımı. Tasarıyı ve 7. maddesini kabul ederek, Fransa’da algoritmik video gözetiminin benimsenmesi benzer bir kaderle karşılaşabilir.
Şimdilik, çoğunluk söz vermiyor. Guillaume Vuillet bu cihazların deneysel doğasına dayanır. ” VSA ile ne yapılacak? elde edilen sonuçlara ve ilerleme raporuna bağlı olacaktır. sonunda iade edilecek », Aralık 2024’te.