A medida que se acercan los Juegos Olímpicos y Paralímpicos de París 2024, la Asamblea Nacional está estudiandodesde el 20 de marzo, el proyecto de ley relativo a este evento. Aprobada por la Cámara de Senadores el 24 de enero, consta de diecinueve artículos. Si pretenden adoptar ” normas relativas a la ordenación del territorio, al urbanismo, a la vivienda y al transporte », artículo 7, cuyo objetivo es incluir la videovigilancia algorítmica (VSA) en la ley, está en el centro de muchos debates Tormentoso. Después de varios días de discusiones, el hemiciclo votó a favor del textocon 59 votos a favor y 14 en contra.
Un proyecto de ley problemático
Diseñado para reforzar la seguridad durante los Juegos Olímpicos y Paralímpicosel artículo 7 es fuertemente criticado por asociaciones para la defensa de las libertades públicas, pero también por diputados de izquierda. El proyecto de ley propone experimentación VSAen particular a través de cámaras enriquecidas con tecnologías de inteligencia artificial, hasta diciembre de 2024. Se aplicará a todos los eventos deportivos, recreativos y culturales con más de 300 participantes.
A través de dispositivos fijos y embarcados, drones e incluso aeronaves, el gobierno quiere prevenir” riesgos de actos de terrorismo o violaciones graves de la seguridad personas “. El texto subrayar que las imágenes obtenidas tendrán con el único propósito de detectar, en tiempo real, eventos predeterminados probable que presente o revele estos riesgos y los informe “, a saber, los movimientos de multitudes y el comportamiento sospechoso. La lista de escenarios aún no ha sido comunicada.
Para lograr esto, los algoritmos analizar imágenes de videovigilancia en tiempo real. Están entrenados para reconocer ciertos datos como la talla o el color de la ropa, pero también información más sensible como el género o el color de la piel. Métodos mal vistos por Amnistía Internacional y otras organizaciones internacionales. Reunidos, explican, en un foro de la Mundoeso ” estas medidas violan el derecho internacional de los derechos humanosen la medida en que no satisfagan los principios de necesidad y proporcionalidad, e impliquen riesgos inaceptables en relación con varios derechos fundamentales como el derecho a la intimidad, el derecho a la libertad de reunión y asociación y el derecho a la no discriminación “.
La misma historia del lado de la oposición de izquierda. Élisa Martin, diputada LFI-NUPES indicó a siglo digitaleso el VSA era ” hasta ahora prohibido “. Agrega que a través del artículo 7, “ se trata de la violación de nuestros derechos fundamentos “, donde la mayoría asegura que solo se trata de” apoyo a las decisiones de nuestras fuerzas de seguridad “.
Guillaume Vuilletet, diputado renacentista y ponente de la Comisión de Derecho Constitucional, Legislación y Administración General de la República, apoya siglo digital ” que no esta planeado no recopilar datos biométricos ni utilizar reconocimiento facial y en ningún caso establecer una vigilancia general “. Para él, la instalación de esta tecnología Debe ser hecho” con respeto a la privacidad y las libertades individuales “, respetando en particular” la libertad de los ciudadanos y, en relación con el uso de datos digitales, el Reglamento General de Protección de Datos (RGPD) y la Ley de Protección de Datos “.
Una tecnología ya supervisada en Francia y Europa
Videovigilancia algorítmica no es nuevo y ya está presente en muchas ciudades de Francia, sujeto a la autorización de la prefectura. Durante su campaña Tecnopolicia », lanzada hace tres años y medio, La Quadrature du Net, una asociación para la defensa y promoción de los derechos y libertades en Internet, ubicaciones identificadas de dispositivos VSA.
Mapas: La Quadrature du Net.
Arnaud Touati, abogado del Colegio de Abogados de Luxemburgo, informa a siglo digital eso la ley “Informatique et Libertés” de 1978 rige esta tecnología. Sin embargo, añade que la Unión Europea también contribuye a su control.
” GDPR obliga a las organizaciones que utilizan sistemas VSA obtener el consentimiento de las personas interesadas y garantizar que los datos recopilados se utilicen de manera lícita, justa y transparente observó. Asimismo, la Directiva de Protección de Datos para la policía y el poder judicial” impone a las autoridades públicas el uso de videovigilancia algorítmica respetar los derechos fundamentales de las personas “.
La Comisión Nacional de Protección de Datos (CNIL) también participa en la reflexión sobre la VSA. En enero de 2022 declaró que “ tales dispositivos no son de ninguna manera una simple “extensión” técnica de las cámaras existentes ” y eso'” alteran su propia naturaleza a través de su capacidad de detección y análisis automatizado “. No obstante, considera lícita esta tecnología si está autorizado por las autoridades públicas a través de un texto reglamentario o legislativo. Ella lo hizo uno de sus expedientes prioritarios para 2023.
Una cuestión de neutralidad
Legislar la videovigilancia algorítmica plantea muchas cuestiones éticas, vinculado a la transparencia de su uso y la neutralidad de las elecciones resultantes. En este sentido, Noémie Levain, responsable de análisis jurídico y político de La Quadrature du Net, denuncia un proyecto político que se basa en la estigmatización. ella le encomienda siglo digital que las personas más afectadas por estas tecnologías serán “ las personas más vulnerables y precarias porque son los que mas tiempo pasan en la calle “. Para ella, el uso de la inteligencia artificial dentro de la videovigilancia, “ está dejando la puerta abierta a muchos abusos “.
El proceso de creación de algoritmos. no es neutral, así como la designación de hechos categorizados como sospechosos. En el hemiciclo, Gérald Darmanin, Ministro del Interior, desea tranquilizar, ” eventos predeterminados no estén calificados, en la ley, como anormales o sospechosos y [la VSA] no identifica personas, sino situaciones como un comienzo de fuego “.
Para garantizar la transparencia de estas tecnologías, la oposición ha propuesto una modificación destinada a obtener ” total transparencia en el código del algoritmo desarrollado “. Tras una votación a mano alzada de los diputados, este último fue rechazado.
Monitoreo ineficaz
Noémie Levain, abogada de la asociación también pone en duda la eficacia de la VSA. Ella quiere como prueba los informes raros, las evaluaciones de esta tecnología que muestran ” no es muy efectivo “. Menos del 2% de los delitos se resolvería mediante videovigilancia. ” No baja la morosidad y apenas ayuda a resolver delitos “, señaló.
Para los parlamentarios de la oposición, la efectividad de tal dispositivo ya esta condenado al fracaso. Durante una sesión parlamentaria, citando el ejemplo del movimiento de multitudes ocurrido en Seúl el 31 de octubre, que resultó en la muerte de 154 personas, Élisa Martin señaló la presencia de videovigilancia algorítmica que “ carecía de discernimiento humano para poder dirigir y llevar ayuda “. Un argumento contradicho por Philippe Latombe, diputado de Módem, quien afirma que en la capital de Corea del Sur, la VSA ” solo se usa para delitos y no para movimientos de multitudes “.
Un proyecto de ley impulsado por empresas del sector
Otro punto planteado por La Quadrature du Net es el proyecto de ley podría tener más motivaciones económicas que de seguridad. Noémie Levain cree que esto es impulsada por empresas del sector. ” Los Juegos Olímpicos y Paralímpicos servirles tanto de escaparates como de laboratorios “, ella pregunta.
La asociación señala que las imágenes capturadas por el VSA podrían potencialmente ser compartido con las empresas, con el fin de alimentar sus algoritmos. Estos últimos pudiendo vender sus servicios en el extranjero. Élisa Martin especifica que los fabricantes del sector privado de la videovigilancia algorítmica representan ” 1.600 millones de euros de facturación para el año 2020, solo en Francia “.
¿Hacia la sostenibilidad de este sistema?
Para quienes hacen campaña contra la videovigilancia algorítmica, el artículo 7 del proyecto de ley de los Juegos Olímpicos y Paralímpicos de 2024 solo tiene experiencia de nombre. Según el diputado, el objetivo es experimentar con estos sistemas para banalizarlos y luego integrarlos en nuestro derecho consuetudinario. Apunta a aumentar la aceptabilidad social de una sociedad de vigilancia generalizada “.
Noémie Levain menciona un patrón similar al de las “cajas negras”en virtud de la ley de inteligencia de 2015, o estado de emergencia en 2017. ” Una vez gastado el dinero, se ha formado a los servicios de seguridad, es seguro que la VSA se perpetuara “, ella alarma. Ella informa un ” estrategia clásica », ya utilizado en muchos eventos deportivos.
En Rusia, en 2018, la Copa Mundial de la FIFA hizo que el uso del reconocimiento facial fuera común en Moscú. Lo mismo ocurre con los Juegos Olímpicos de Londres en 2012, con, desde entonces, el mantenimiento de la videovigilancia en la ciudad. Con la adopción del proyecto de ley y su artículo 7, la adopción de la videovigilancia algorítmica en Francia podría correr un destino similar.
Por el momento, la mayoría promete no. Guillaume Vuilletet se basa en la naturaleza experimental de estos dispositivos. ” Qué se hará con el VSA dependerá de los resultados obtenidos y del informe de avance que será devuelto al final », en diciembre de 2024.