Les algorithmes utilisés par le gouvernement central ne répondent pas toujours aux exigences de base. Sur les neuf algorithmes testés, six ne répondaient pas aux exigences, rapporte le Cour des comptes Mercredi après enquête.
Un algorithme est un ensemble de règles qu’un ordinateur suit. Il est souvent utilisé pour effectuer des tâches à grande échelle qui prendraient beaucoup de temps. Par exemple, des algorithmes sont utilisés pour détecter la fraude. Ils recherchent ensuite dans toutes sortes de données pour trouver des informations qui pourraient indiquer une fraude.
Selon la Cour des comptes, il est possible que les algorithmes soient utilisés de manière responsable, mais en pratique ce n’est pas toujours le cas. Seuls trois algorithmes ont répondu aux exigences de base lors des tests.
Les six autres algorithmes ne l’ont pas fait, ce qui, selon le tribunal, comporte des risques. Cela concerne, par exemple, les biais, les risques de fuites de données ou d’accès non autorisés.
En particulier, les algorithmes utilisés par la police, la direction générale des migrations du ministère de la justice et de la sécurité et le service national des données d’identité ne répondent pas aux exigences de base.
Les deux dernières organisations ont externalisé le développement et la gestion de l’algorithme, mais il y a un manque d’accords sur qui peut être contacté pour quoi. Entre autres choses, la police n’a aucun contrôle sur d’éventuels préjugés.
La secrétaire d’État Alexandra van Huffelen (Numérisation) entamera des discussions avec les organisations concernées pour remédier aux lacunes. Elle souhaite informer la Chambre des représentants des prochaines étapes possibles avant les vacances d’été.