En una carta abierta fechada el 5 de febrero, una treintena de asociaciones que defienden las libertades públicas y digitales, entre ellas Quadrature du Net y el colectivo Changer le Cap, denunciaron los algoritmos de puntuación utilizados por la Caisse d’Allocations Familiales (CAF). Piden al Primer Ministro, Gabriel Attal, que ponga fin a su uso.
El sistema de puntuación CAF en la mira de las asociaciones
En su carta, las asociaciones retoman las prácticas de la CAF, acusada de discriminar a sus beneficiarios más precarios. El pasado mes de noviembre, La Quadrature du Net denunció el “ algoritmos de vergüenza », herramientas utilizadas durante la década de 2010 para determinar el “ puntuación de sospecha » de sus beneficiarios.
Tener bajos ingresos, estar desempleado, recibir RSA, vivir en un barrio desfavorecido, gastar una parte importante de sus ingresos en alquiler o no tener trabajo o ingresos estables, constituyen criterios para aumentar la tasa de sospecha. En base a esto, la organización juzgó si era necesario controlar al individuo para reclamar posibles pagos excesivos.
Aunque ya no se utilizan, las asociaciones acusan a la CAF de haber perpetuado este sistema de puntuación con el nuevo algoritmo que utiliza. Para ellos, contribuyen a un “ abuso institucional » de la CAF, a la “ múltiples consecuencias a nivel material y psicológico “. Al llamar a Gabriel Attal, los firmantes de la carta abierta esperan que el gobierno renuncie al uso de estos algoritmos de calificación, ya sea en la CAF o en otras organizaciones públicas como France Travail, antes Pôle emploi.
Tras las revelaciones de La Quadrature du Net, el director de la Caja Nacional de Asignaciones Familiares (CNAF), Nicolas Grivel, aseguró que el algoritmo en cuestión “ era neutral “. Agregó que esta herramienta fue “ lo contrario de la discriminación » ya que ” nadie pudo explicar por qué se apuntó a un archivo “. Durante el mes de diciembre, El mundo acudió al tribunal administrativo para obtener documentos relacionados con la puntuación de sospecha. La CNAF se negó a facilitar dichos documentos, afirmando que “ no puede comunicar documentos que no tiene “.
A finales de enero, el presidente de la CNAF fue entrevistado por el Senado sobre este sistema de puntuación. Nicolas Grivel se negó a dar detalles sobre cómo funciona este algoritmo, asegurando que la organización no se dirige a familias monoparentales. Precisó que los grupos vulnerables son los más numerosos para ser controlados, porque constituyen gran parte de los beneficiarios. En cualquier caso, la CAF no habría establecido especificaciones antes de diseñar su última herramienta y no la habría evaluado para detectar posibles sesgos algorítmicos.