En las últimas semanas, Quadrature du Net ha conseguido obtener el código fuente de dos algoritmos utilizados por la Caisse d’Allocations Familiales (CAF) entre 2010 y 2018 para luchar contra el fraude social. Tras analizarlos, la asociación para la defensa de los derechos y libertades en la Red es categórica: esta herramienta apuntaría a sus beneficiarios más precarios de forma discriminatoria.
«El algoritmo de la vergüenza»
Al estudiar el código fuente, Quadrature du Net descubrió que los algoritmos CAF estaban destinados a determinar el » puntuación de sospecha » de sus beneficiarios. En base a esto, la organización juzgó si era necesario controlar al individuo para reclamar posibles pagos excesivos.
Combinando los numerosos datos que la CAF tiene sobre sus beneficiarios, este algoritmo asigna a cada persona una “puntuación de sospecha”, que indica el grado de confianza que la CAF deposita en ellos, y cuyo deterioro desencadena controles.
— La Cuadratura de la Red (@laquadrature) 27 de noviembre de 2023
Entre los criterios que se tienen en cuenta para calcular esta puntuación: situación familiar, profesional y financiera, lugar de residencia, tipo y cantidad de servicios recibidos, frecuencia de conexiones al espacio web, tiempo transcurrido desde el último viaje a recepción, número de correos electrónicos intercambiados. , el tiempo transcurrido desde el último control y el número y tipos de declaraciones. En total, el algoritmo tuvo en cuenta unos cuarenta parámetros para apuntar a los beneficiarios más sospechosos.
Tener bajos ingresos, estar desempleado, recibir RSA, vivir en un barrio desfavorecido, gastar una parte importante de sus ingresos en alquiler o no tener trabajo o ingresos estables, constituyen criterios para aumentar la tasa de sospecha. La Quadrature du Net también denuncia que el algoritmo se dirigió especialmente a las personas que se benefician de la Asignación para Adultos Discapacitados (AAH) y que están trabajando. Este sería también uno de los parámetros con mayor impacto en la puntuación de sospecha.
Cuanto mayor sea el puntaje, más probabilidades habrá de que los beneficiarios sean controlados por la CAF y, a sus ojos, hayan recibido un excedente en beneficios. Gráfico: La Quadrature du Net.
En total, estos algoritmos habrían sido destinatarios de 32 millones de personas, incluidos 13 millones de niños que viven en un hogar beneficiario de la ayuda de CAF. La Caja de Asignaciones Familiares no quiso facilitar a la asociación el código fuente del último algoritmo que utiliza. Para defenderse, un director de la CAF aseguró a La Quadrature du Net que “ el algoritmo era neutral », añadiendo incluso que esta herramienta era “ lo contrario de la discriminación » ya que » nadie pudo explicar por qué se apuntó a un archivo «.
A principios de año, la asociación deploró la difusión pública de los datos personales de 10.000 beneficiarios de la Caja de Asignaciones Familiares de Gironda. Uno de sus proveedores de servicios había recibido un archivo que contenía esta información, lo que sin querer lo puso en línea.