Si les organisations utilisent l’intelligence artificielle et des algorithmes pour leurs opérations commerciales, elles doivent expliquer pourquoi elles le font. L’autorité néerlandaise de protection des données le préconise.
Ce sont des entreprises et des gouvernements qui « traitent sérieusement des données personnelles » et qui utilisent des systèmes ou des algorithmes d’IA qui peuvent avoir un impact majeur sur la vie des citoyens.
L’Autorité néerlandaise de protection des données (AP) affirme que l’arrivée des chatbots IA et le manque de connaissances sur les algorithmes existants présentent les plus grands risques. Pensez aux risques de discrimination, d’inégalité des chances, de tromperie et de manque de transparence et d’explication sur les algorithmes.
Presque toutes les organisations aux Pays-Bas travaillent désormais avec des algorithmes. « De nombreux clients signifient beaucoup de données client dans vos fichiers », déclare le président d’AP, Aleid Wolfsen. le scandale des avantages sociaux est l’exemple le plus connu d’un algorithme qui a désavantagé les citoyens. Mais récemment, DUO et l’UWV se sont également trompés avec les algorithmes.
Wolfsen pense que l’IA et les algorithmes peuvent être utiles, mais nous ne devons pas ignorer les risques. « La prise de conscience à ce sujet augmente, mais de nombreux gouvernements et entreprises recherchent toujours la bonne façon de le faire », dit-il. « C’est pourquoi des réglementations claires sont désormais cruciales. Nous appelons le cabinet sortant à continuer à faire des progrès à cet égard. »
L’AP demande un enregistrement obligatoire
Aux Pays-Bas, il existe un registre d’algorithmes dans lequel les organisations gouvernementales peuvent saisir les algorithmes utilisés présentant un risque élevé d’abus. Ce n’est pas encore obligatoire, mais l’AP espère qu’il le sera dans un an. Le SAI signalé précédemment que le registre n’est presque jamais rempli.
Depuis le début de cette année, l’AP surveille non seulement les violations de la vie privée, mais également les algorithmes. C’est la première fois que l’AP publie un rapport à ce sujet. Le régulateur a l’intention de le faire tous les six mois.