L’intelligence artificielle (IA) prend peu \u00e0 peu ses marques au sein de l’administration publique, comme en t\u00e9moigne l’exemple du Ayuntamiento de B\u00e9tera<\/strong> en Espagne. Ce dernier a d\u00e9cid\u00e9 d’int\u00e9grer ChatGPT<\/strong> parmi ses employ\u00e9s<\/strong> pour am\u00e9liorer son efficacit\u00e9. Selon Marcos Gallart, le vicesecr\u00e9taire de l’urbanisme de B\u00e9tera, l’utilisation de cette technologie permettrait d’\u00e9conomiser 20% de temps<\/strong> dans la r\u00e9daction des rapports<\/strong> administratifs. Bien que ces avanc\u00e9es soient prometteuses, elles soul\u00e8vent \u00e9galement des questions importantes concernant l’utilisation de l’IA dans un cadre si complexe et r\u00e9glement\u00e9.<\/p>\n Si ChatGPT peut faciliter diverses t\u00e2ches administratives, un point crucial demeure : la formation<\/strong>. Comme l\u2019indique Gallart, il est essentiel que les employ\u00e9s soient correctement form\u00e9s afin de savoir comment utiliser ces outils<\/strong> de mani\u00e8re judicieuse. La dimension et la complexit\u00e9 de l’administration publique font que cette transition vers l’int\u00e9gration de nouvelles technologies est loin d’\u00eatre simple. Un manque de pr\u00e9paration pourrait mener \u00e0 des utilisations inappropri\u00e9es, voire \u00e0 des erreurs co\u00fbteuses pour les collectivit\u00e9s.<\/p>\n Malgr\u00e9 l’obsession r\u00e9glementaire de l’Union europ\u00e9enne (UE) et de l’Espagne concernant l’IA, il n’existe pas de cadre clair encadrant son utilisation par les fonctionnaires<\/strong>. Que ce soit des enseignants, du personnel m\u00e9dical ou des juges, environ 1,6 million de travailleurs<\/strong> pourraient b\u00e9n\u00e9ficier de ces technologies, mais doivent les utiliser avec prudence. L’absence de cadre normatif peut cr\u00e9er des situations de vente \u00e0 perte de la confiance des citoyens dans les institutions publiques.<\/p>\n Le recours \u00e0 l’IA par les institutions publiques n’est pas sans risque. Un exemple frappant est celui de la Police Nationale<\/strong> en Espagne. Apr\u00e8s six ans d’utilisation de l’IA pour d\u00e9tecter les d\u00e9nonciations<\/strong> fausses, la fiabilit\u00e9 du syst\u00e8me a \u00e9t\u00e9 mise en question. Dans le cadre du r\u00e9cent \u00ab cas \u00c1balos \u00bb, l’IA a \u00e9t\u00e9 utilis\u00e9e pour transcrire des d\u00e9clarations de t\u00e9moins, mais le r\u00e9sultat a r\u00e9v\u00e9l\u00e9 des incoh\u00e9rences notables. Plus pr\u00e9occupant encore, le syst\u00e8me de l’IA VioG\u00e9n<\/strong>, cens\u00e9 aider \u00e0 traiter les cas de violence de genre<\/strong>, a caus\u00e9 des trag\u00e9dies.<\/p>\n Le minist\u00e8re de la Fonction Publique<\/strong> en Espagne a r\u00e9cemment propos\u00e9 d’int\u00e9grer l’IA dans l’administration territoriale avec un investissement de 14 millions d’euros<\/strong>. Cet effort vise \u00e0 cr\u00e9er une plateforme souveraine d’IA<\/strong> pour faciliter les proc\u00e9dures administratives<\/strong>. Le ministre \u00d3scar L\u00f3pez a affirm\u00e9 que cela aboutirait \u00e0 une “r\u00e9volution” dans la mani\u00e8re dont l’administration fonctionne, comparable \u00e0 Internet<\/strong>.<\/p>\n Interroger ChatGPT sur des sujets personnels comporte des risques<\/strong>. La r\u00e9ponse fournie par le chatbot peut ne pas \u00eatre pr\u00e9cise, et le stockage de ces donn\u00e9es peut poser un probl\u00e8me s\u00e9rieux. Si un fonctionnaire soumet des documents sensibles pour les faire analyser, ces informations peuvent se retrouver compromises. Des fuites de donn\u00e9es peuvent survenir, mettant ainsi en p\u00e9ril la confidentialit\u00e9<\/strong> des citoyens.<\/p>\n L’utilisation massive de l’IA dans l’administration publique engendre une double menace. D’une part, elle peut am\u00e9liorer l’efficacit\u00e9 des services publics, mais d’autre part, une mauvaise utilisation peut entra\u00eener des erreurs graves. Les donn\u00e9es personnalis\u00e9es risquent d’\u00eatre mal g\u00e9r\u00e9es, et des d\u00e9cisions peuvent \u00eatre prises sur la base d’informations erron\u00e9es. Un fonctionnaire pourrait, par exemple, croire que la r\u00e9ponse fournie par un outil d’IA est correcte sans une v\u00e9rification appropri\u00e9e.<\/p>\n Pour pallier ces pr\u00e9occupations, certaines entreprises offrent des services avec des plans de Zero Data Retention<\/strong> (ZDR). Cela signifie que les donn\u00e9es introduites ne sont pas conserv\u00e9es sur les serveurs du fournisseur. OpenAI, via sa version ChatGPT Enterprise<\/strong>, permet aux professionnels d\u2019utiliser l\u2019IA sans craindre des probl\u00e8mes de fuite de donn\u00e9es. D’autres entreprises, telles que Microsoft, proposent \u00e9galement des solutions similaires.<\/p>\n En mars dernier, un projet de loi<\/strong> a \u00e9t\u00e9 approuv\u00e9 afin de r\u00e9guler l’usage de l’IA dans l’administration. Cette l\u00e9gislation vise \u00e0 \u00e9tablir un cadre \u00e9thique et inclusif pour l’application de l’IA. Cependant, des critiques \u00e9mergent concernant le fait que cette r\u00e9glementation ne soit pas suffisamment stricte, notamment en ce qui concerne les mauvais usages. Les articles 25, 26 et 27 laissent entendre que des violations des normes relatives \u00e0 l’utilisation de l’IA dans l’administration seraient consid\u00e9r\u00e9es comme des manquements mineurs.<\/p>\n Il est donc essentiel de poursuivre les r\u00e9flexions autour de l’utilisation de l’intelligence artificielle dans le secteur public. L’introduction d’outils comme ChatGPT peut constituer un atout consid\u00e9rable, mais il est crucial de mettre en place des \u00a0mesures de protection\u00a0 pour \u00e9viter des d\u00e9rives qui pourraient compromettre l’int\u00e9grit\u00e9 des institutions et la \u00a0confiance\u00a0 des citoyens. Une r\u00e9gulation adapt\u00e9e et une \u00a0formation appropri\u00e9e\u00a0 des utilisateurs seront des \u00e9l\u00e9ments fondamentaux pour garantir une utilisation \u00e9thique et b\u00e9n\u00e9fique de ces technologies.<\/p>\nLes d\u00e9fis de l’adoption de l’IA<\/h2>\n
Absence de r\u00e9glementation claire<\/h2>\n
Les d\u00e9rives possibles du recours \u00e0 l’IA<\/h2>\n
Le futur de l’IA dans l’administration<\/h2>\n
Les dangers pour la confidentialit\u00e9 et la s\u00e9curit\u00e9<\/h2>\n
Les citoyens, victimes potentielles<\/h2>\n
Solutions pour rassurer les utilisateurs<\/h2>\n
Un encadrement l\u00e9gislatif n\u00e9cessaire<\/h2>\n