La police cessera d’utiliser un algorithme pour prédire qui pourrait recourir à la violence à l’avenir. Il existe des doutes quant à l’utilité du soi-disant instrument d’évaluation des risques de violence (RTI-G), et il n’est pas clair si les policiers néerlandais l’ont encore utilisé, a déclaré une porte-parole de la police après un reportage de Follow The Money.
L’algorithme est utilisé par la police néerlandaise depuis 2014. L’étude a examiné le sexe, l’âge et le casier judiciaire d’une personne pour déterminer qui pourrait devenir violent. Les personnes qui se sont manifestées se sont fait dire qu’elles constituaient un « sujet à risque pour la sécurité ». Ils seraient contrôlés plus souvent et seraient obligés de coopérer. Follow The Money a rapporté plus tôt cette semaine que les origines ethniques jouaient également un rôle : les personnes d’origine marocaine, antillaise ou somalienne étaient considérées comme présentant un plus grand risque que les autres.
La police néerlandaise affirme que l’algorithme n’a jamais été utilisé seul. «C’était un support, en combinaison avec d’autres systèmes, pour voir s’il y avait de fortes chances que quelqu’un recoure à la violence. Si tel est le cas, nous pourrions l’utiliser pour une approche personnelle, par exemple auprès des services de santé mentale et des municipalités.» Il n’est pas clair si les résultats de l’algorithme sont toujours dans les dossiers des personnes et s’ils sont en cours d’ajustement.
Auparavant, le gouvernement avait dû cesser d’utiliser un algorithme pour détecter la fraude sociale. Cette indication de risque systémique (SyRI) viole les règles européennes qui protègent la vie privée des personnes, a statué le tribunal en 2020.
Accès gratuit et illimité à Showbytes ? Qui peut!
Connectez-vous ou créez un compte et ne manquez rien des stars.