La policía dejará de utilizar un algoritmo para predecir quién podría utilizar la violencia en el futuro. Hay dudas sobre la utilidad del llamado Instrumento de Evaluación de Riesgos de Violencia (RTI-G) y no está claro si los agentes holandeses todavía lo utilizan, afirma una portavoz de la policía tras informar a Follow The Money.
El algoritmo ha sido utilizado por la policía holandesa desde 2014. Se analizó el género, la edad y los antecedentes penales de una persona para evaluar quién podría volverse violento. A las personas que se presentaron se les dijo que eran un “sujeto de riesgo para la seguridad”. Serían controlados más a menudo y estarían obligados a cooperar. Follow The Money informó a principios de esta semana que los orígenes étnicos también influyeron: las personas de origen marroquí, antillano o somalí eran vistas como un mayor riesgo que otras.
La policía holandesa dice que el algoritmo nunca se utilizó solo. “Fue un apoyo, en combinación con otros sistemas, para ver si hay buenas posibilidades de que alguien use la violencia. Si ese es el caso, podríamos utilizarlo para un enfoque personal, por ejemplo con la atención de salud mental y los municipios”. No está claro si los resultados del algoritmo todavía están en los archivos de las personas y si se están ajustando.
Anteriormente, el gobierno tuvo que dejar de utilizar un algoritmo para detectar fraudes a la asistencia social. Ese sistema de indicación de riesgo (SyRI) viola las normas europeas que protegen la vida privada de las personas, dictaminó el tribunal en 2020.
¿Acceso ilimitado y gratuito a Showbytes? ¡Qué puede!
Inicia sesión o crea una cuenta y no te pierdas nada de las estrellas.