Le ministre sortant Robbert Dijkgraaf (Éducation, Culture et Science, D66) et la secrétaire d’État Alexandra van Huffelen (Relations du Royaume et Numérisation, D66) prennent place l’un à côté de l’autre sur un banc biplace gris exigu. Ils sont assis dans le « salon exécutif », au neuvième étage de l’hôtel Marriott de La Haye.
L’hôtel se trouve à moins de cinq minutes à pied du Catshuis, où le cabinet a été mis à jour sur l’intelligence artificielle (IA) lors d’une « session Catshuis » mercredi matin. Les administrateurs parleront ensuite pendant une heure CNRC sur la technologie, qui est en plein essor depuis le lancement de ChatGPT en novembre de l’année dernière.
Le porte-parole présent note au cours de la conversation qu’il serait apprécié qu’il soit explicitement indiqué que l’IA a également été utilisée pour rédiger cet article. “Pour faire comprendre à vos lecteurs à quel point cette technologie est globale.”
C’est exact. L’interview enregistrée avec un iPhone a été retranscrite par Whisper [software die binnen een minuut een audiogesprek in geschreven tekst kan omzetten]. Et sur le site de CNRC l’article est lu par une voix d’une CNRCjournaliste formé à l’intelligence artificielle. Ici aussi – comme cela se produit ou se produira dans la plupart des professions – l’intelligence artificielle prend le relais des tâches des personnes.
Dans le Catshuis, le cabinet, installé autour d’une grande table ovale avec le Premier ministre par intérim Mark Rutte au milieu, a été mis à jour, entre autres, par le professeur d’IA Max Welling de l’Université d’Amsterdam et la cyberexperte Marietje Schaake de l’Université de Stanford. Sujet de discussion : les opportunités et les risques de l’IA. C’était la première fois que le gouvernement mettait ainsi ce sujet à l’agenda politique.
Le groupe de réflexion et l’organisme consultatif WRR ont mentionné l’IA plus tôt une « technologie système »: une technologie avec un impact important et imprévu sur la société. Cela concerne les systèmes d’IA utilisés pour la reconnaissance faciale et la détection des fraudes ou pour des applications médicales ou militaires. Et les algorithmes sont utilisés pour influencer ce que les citoyens achètent, lisent et votent. Selon le WRR, l’impact technologique de l’IA est donc comparable à celui des révolutions précédentes comme l’électricité ou le moteur thermique.
Selon Dijkgraaf, naturaliste et mathématicien à l’origine, la révolution de l’IA va encore plus loin. L’IA « essaie en fait d’imiter notre façon de penser », dit-il. Cela fait de l’IA quelque chose « qui touche beaucoup plus d’éléments de la vie et est donc difficile à comparer avec d’autres avancées technologiques ».
Qu’a apporté la séance Catshuis ?
Van Huffelen : « Il existe de nombreux secteurs dans lesquels les Pays-Bas sont forts et dans lesquels l’IA jouera un rôle majeur. Pensez à l’agriculture, aux soins de santé, à la paix et à la sécurité, au monde médical. La question est : comment faire en sorte que cette technologie intègre également les valeurs que nous prônons. Le sentiment lors de la séance était : il faut vraiment se mettre au travail, ensemble.
Des décisions concrètes ont-elles été prises ?
Dijkgraaf : « Nous roulons très vite, mais dans le brouillard. Il est donc difficile de prévoir l’avenir. Le terme « équipe d’intervention rapide » a été abandonné. Un groupe d’experts qui suit ce qui se passe ici pour le gouvernement et qui peut réagir rapidement. Nous allons travailler là-dessus. ChatGPT a été lancé il y a moins d’un an. Cela va vraiment de mois en mois maintenant. Et ce n’est généralement pas le rythme auquel le gouvernement travaille.»
Pourquoi a-t-il fallu si longtemps pour que le cabinet se réunisse sur ce sujet ?
Van Huffelen : « Bien sûr, nous parlons de ce thème depuis un certain temps déjà. Mais effectivement, trouver le moment de rassembler tout le monde… »
Dijkgraaf : « Les développements dans le domaine de l’IA vont plus vite que ne le permettent les agendas des ministres et des secrétaires d’État. »
Comment faites-vous pour vous suivre ? Utilisez-vous ChatGPT ? Avez-vous déjà expérimenté les générateurs d’images Dall-E ou Midjourney ?
« Van Huffelen : « J’ai certainement expérimenté cela, oui. Je lis beaucoup. Écoutez des podcasts, inspirez-vous des personnes souvent impliquées dans ce sujet. Mais en fin de compte, nous ne pouvons pas en absorber autant.
Dijkgraaf : « Un des miens pêchés mignons écoute toujours des cours scientifiques en ligne. Ensuite vous voyez, et je trouve cela extrêmement intéressant, toutes les attentes que nous avons à Princeton [Dijkgraaf was van 2012 tot 2022 directeur van het Institute for Advanced Study in Princeton] il y a deux ans a été dépassé. C’est justement ce grand pas en avant qui fait tomber tous les chercheurs de leur siège. En science, nous appelons cela un « phénomène émergent ». Vous essayez de faire quelque chose. Vous lui donnez de plus en plus de puissance de calcul. Il ne se passe rien. Il ne se passe rien. Il ne se passe rien. Et à un moment donné, tout arrive.
Vos services expérimentent-ils déjà l’IA ? Existe-t-il des groupes de travail ou des assistants de chat officiels ?
Van Huffelen : « C’est une autre question que nous nous posons. Qu’est-ce qu’on veut réellement avec ça ? C’est agréable d’expérimenter et de voir ce qui se passe, même si je tiens à répondre aux questions parlementaires. Mais la question est de savoir si c’est ce que nous devrions souhaiter.
Vous avez déclaré dans un discours cette semaine que les Big Tech devaient être « apprivoisées » en matière d’IA. Comment envisagez-vous cela ?
Van Huffelen : « Si ces entreprises souhaitent nous proposer leurs produits, elles doivent respecter nos règles. L’Europe travaille désormais d’arrache-pied sur la réglementation de l’IA [de AI Act, een Europese wet]. Il arrive toujours que les évolutions technologiques précèdent la réglementation. Dans le même temps, nous ne voulons pas que les données de qui que ce soit, mais de n’importe où, soient vendues sans que vous ayez aucune influence sur elles. Nous voulons une réglementation qui stimule l’innovation tout en garantissant que nos valeurs publiques restent ici protégées.»
Avez-vous déjà été victime de fausses nouvelles générées par l’IA ? Une faux profond ou une voix clonée ?
Van Huffelen : “Pas à ma connaissance, mais j’ai vu beaucoup de misère sur les réseaux sociaux.”
Dijkgraaf : « Je ne sais pas ce que je ne sais pas. Je ne peux donc pas affirmer avec une certitude absolue que cela ne s’est jamais produit ou n’arrivera jamais. »
À l’approche des élections, cela devrait être une préoccupation majeure
Les deux à la fois : « Certainement ».
Comment gérez-vous cela ?
Van Huffelen : « C’est toujours un équilibre difficile entre la liberté d’expression et ce qui n’est vraiment pas autorisé. Nous ne voulons pas jouer au ministère de la Vérité ni déterminer ce qui est autorisé sur les réseaux sociaux.»
Dijkgraaf : « Il existe des algorithmes qui non seulement créent de la désinformation, mais qui aident également à la diffuser. Des chatbots qui vous aident dans les étapes intermédiaires. C’est inquiétant.
Van Huffelen : « C’est un problème que nous avons du mal à combattre. Ce que nous pouvons faire, c’est veiller à ce qu’il y ait suffisamment de ressources vers lesquelles les gens peuvent se tourner. Où les gens peuvent trouver des informations qui ont été testées et où les sujets sont abordés sous plusieurs angles. Les médias jouent un rôle extrêmement important à cet égard.
Toutes les menaces déjà présentes seront encore renforcées par l’IA
Robert Dijkgraaf Ministre par intérim de l’Éducation, de la Culture et des Sciences
Dijkgraaf : « La désinformation est, en un sens, intemporelle. Cela ne fera qu’empirer. C’est également l’une des conclusions les plus importantes sur les effets de cette technologie. Toutes les menaces déjà présentes deviennent plus fortes. Ensuite, il s’agit aussi d’inégalités sociales. L’idée selon laquelle toute nouvelle technologie est un égaliseur social est fausse. Toutes les recherches montrent que ce n’est pas le cas, à condition que vous interveniez activement en tant que gouvernement. Donc, si vous laissez ces forces se déchaîner, les conséquences de ce progrès technologique seront très inégales sur les plans économique et financier.»
Je veux vous présenter quelques dilemmes. Reconnaissance faciale dans l’espace public aux Pays-Bas. Peut-être ou peut-être pas?
Van Huffelen : « En Europe, nous avons indiqué que nous ne voulions pas de cela. Sauf dans des conditions très strictes, par exemple lors de la détection et de l’enquête.
Fonctionnaires utilisant ChatGPT pour répondre aux questions parlementaires.
Van Huffelen : « Je suis sûr qu’il y a déjà des fonctionnaires qui expérimentent cela. Nous devons y réfléchir attentivement.
Dijkgraaf : « Aujourd’hui, lors de la session Catshuis, quelqu’un a dit : ChatGPT est juste un stagiaire très intelligent. On ne les laisse pas aveuglément signer une lettre au Parlement ou un contrat.»
Des systèmes d’IA militaire qui identifient de manière autonome les cibles puis les désactivent.
Van Huffelen : « Non, nous ne le souhaiterions certainement pas. Je trouverais cela totalement irresponsable.
Une pause de six mois durant laquelle tout développement technologique au sein de l’IA est stoppé. Comprendre la technologie dans un premier temps.
Dijkgraaf et Van Huffelen éclatèrent de rire en entendant cette question.
Van Huffelen : « Ce n’est tout simplement pas réaliste. »
Dijkgraaf : « Cela va maintenant beaucoup trop vite pour cela. »
Encore. Il y a des scientifiques de haut niveau qui disent : c’est peut-être la dernière invention que l’homme fera jamais. Les entrepreneurs technologiques comme Sam Altman (OpenAI) et Elon Musk craignent un supercalculateur qui pourrait nous asservir.
Dijkgraaf : « Nous devons être réalistes. La technologie n’est pas intrinsèquement malveillante. Nous avons la responsabilité de fournir l’environnement dans lequel ces algorithmes décideront quel est leur but dans la vie. Parce que cela pourrait être inoffensif si le but est de gagner une partie d’échecs. Mais très dangereux si le but est de gagner une guerre.
« Je le vois plutôt comme un écran radar supplémentaire, avec lequel nous verrons des choses que nous ne voyons pas actuellement. Gardons-nous de nous limiter à deux scénarios. Soit ce ne sont que des robots stupides, soit cela signifie la fin du monde. Il y a encore beaucoup de choses entre les deux.
Pensez-vous que l’IA pourrait nous aider à résoudre les grands problèmes de notre époque ? Lutter contre le réchauffement climatique ou trouver un remède à la maladie d’Alzheimer ?
Dijkgraaf : « Les applications les plus importantes et les plus positives de l’IA se trouvent dans le domaine scientifique. L’IA peut peut-être nous aider à identifier les opportunités. Ce sur quoi nos scientifiques devraient se concentrer. Parce que nous préoccupons-nous des bons problèmes ?
« Ce qui est formidable, c’est qu’à de nombreux moments de l’histoire, l’homme a fait un saut sorti de nulle part. Quelque chose que tout le monde trouvait ridicule et qui allait le faire de toute façon. En tant que mathématicien, vous avez appris depuis longtemps qu’il ne faut jamais prendre la racine carrée de -1, car ce n’est pas un nombre. Ils appelaient cela un nombre imaginaire. Eh bien, quelle folie. Il apparaît désormais que toutes les lois physiques utilisent précisément ces nombres imaginaires.
“Voilà. Les humains ont parfois aussi la capacité de faire des choses vraiment folles. Être capable de vraiment faire quelque chose à partir de rien. J’espère que nous chérirons cela un peu plus ensemble.
Une version de cet article est également parue dans le journal le 7 septembre 2023.