L’Autorité néerlandaise des marchés financiers (AFM) s’inquiète de l’intelligence artificielle. Dans un rapport publié mercredi avertit le régulateur que l’intelligence artificielle (IA) constitue une menace pour la stabilité financière en raison du développement rapide actuel.
La publication sur la stabilité financière que l’AFM produit annuellement à la demande de la Chambre des représentants précise que des décisions erronées dues à l’utilisation de l’intelligence artificielle peuvent entraîner beaucoup de stress sur les marchés. Cela concerne par exemple les modèles de calcul qui déterminent si les actions doivent être vendues ou achetées.
L’AFM constate que les traders sur les marchés de capitaux s’accumulent déjà 80 à 100 % de leurs décisions reposent sur des modèles de calcul générés par ordinateur (algorithmes) et apprentissage automatique, des ordinateurs qui apprennent des données qu’ils obtiennent des gens sur les mouvements passés du marché. Par exemple, les traders essaient d’utiliser des modèles informatiques pour prédire quel sera le prix d’une action et laissent les ordinateurs agir automatiquement lorsqu’un certain prix est atteint sur le marché.
Étant donné que la majorité des maisons de négoce financières européennes sont basées aux Pays-Bas, l’AFM a une tâche importante dans la supervision mondiale du commerce automatisé et des modèles prédictifs. “Certaines de ces entreprises sont vraiment la Ligue des champions lorsqu’il s’agit d’appliquer des algorithmes au marché boursier”, déclare Stefan de Dobbelaere, superviseur des marchés de capitaux à l’AFM. “Vous voyez qu’ils attirent également les meilleurs talents du monde entier et sont en concurrence avec des agences telles que la NASA.”
Incontrôlable
Selon De Dobbelaere, les algorithmes qui décident de l’achat d’une action sur les marchés financiers ne sont pas encore hors de contrôle. « Ce que nous avons vu dans une étude fin 2022 auprès des sociétés cotées peut encore être écourté. Ce n’est pas encore une intelligence artificielle autonome, comme l’est le bot linguistique ChatGPT récemment lancé.
Dans l’apprentissage automatique, comme les commerçants sur les marchés financiers s’appliquent maintenant, les gens alimentent l’ordinateur avec des données. ChatGPT, d’autre part, apprend en recherchant lui-même de nouvelles données, et le programme prend des décisions indépendantes en fonction de cela. De Dobbelaere : “C’est pourquoi il reste à expliquer pourquoi un certain algorithme a assuré qu’un certain ordre d’achat a été passé.”
Mais selon le régulateur, il ne faudra probablement pas longtemps avant que cette nouvelle génération d’IA soit appliquée aux marchés financiers. « La technologie et son application se développent très rapidement. Beaucoup d’argent y est investi et de nombreuses ressources sont disponibles pour le rendre plus rapide, meilleur et plus intelligent à chaque fois. Ensuite, les modèles finissent par devenir auto-apprenants, auto-mouvements, auto-pensants. Et puis il devient difficile pour les humains de contrôler les décisions prises par l’IA.
Lire aussi : Le pionnier Geoffrey Hinton quitte Google pour parler librement des risques liés à l’IA
Instabilité financière
Selon l’AFM, des algorithmes avancés permettent de s’assurer que des « situations de marché » – chute boursière brutale, pic d’une action – ne peuvent plus être expliquées et ne peuvent plus être attribuées à des décisions individuelles. “Le marché devient de plus en plus une boîte noire, ce qui peut entraîner une instabilité financière”, indique le rapport.
L’AFM soutient donc les appels récents des entrepreneurs et des gouvernements à une pause dans le développement de l’IA. De Dobbelaere : « Une pause sur les marchés des capitaux est trop extrême. Mais en tant que régulateurs et acteurs du marché boursier, nous devons vraiment réfléchir attentivement aux conséquences de l’intelligence artificielle. Vous voyez que les algorithmes maintenant appliqués peuvent déplacer les marchés beaucoup plus que lorsque seuls les gens prenaient des décisions commerciales. Il s’agit maintenant de vitesses énormes et d’énormes quantités de données. De gauche à droite, partout dans le monde. Cela signifie que quelque chose qui se passe à Hong Kong peut avoir un effet immédiat en Europe. Ça va partout dans le monde.
De Dobbelaere cite un incident à la banque américaine Citi l’année dernière. C’était une erreur humaine – un commerçant a écarté plusieurs soupapes de sécurité dans les systèmes de négociation de Citi, permettant à une grosse commande d’aller sur le marché en une seule fois – mais cela a eu un impact énorme. Normalement, un ordre aussi important est exécuté progressivement afin de ne pas semer la panique.Maintenant, les algorithmes “ont vu” une vague de vente et ont amplifié cet effet de manière entièrement automatique. En conséquence, les marchés boursiers en Scandinavie en particulier ont chuté de plusieurs pour cent. De Dobbelaere : « Ce ne sont que des algorithmes stupides, en fait, qui font ce qu’on leur demande de faire. De toute façon, il n’y a personne qui dise à un tel algorithme : es-tu sûr, es-tu sûr ?
Il note que la suppression de l’émotion humaine dans les décisions de trading, au moyen d’algorithmes, a un impact positif dans de nombreux cas. “Les gens font beaucoup d’erreurs, ils deviennent nerveux à cause du stress et prennent donc de mauvaises décisions. Un algorithme n’a pas de stress.
Selon De Dobbelaere, ce n’est pas nécessairement une mauvaise chose si une intelligence artificielle plus intelligente atteint les marchés des capitaux. “Si des programmes de type ChatGPT peuvent consulter les rapports annuels des entreprises, par exemple, nous nous en félicitons. Aujourd’hui, de nombreux algorithmes ne prennent pas en compte ce type d’informations fondamentales sur la performance d’une entreprise. »
Surveillance européenne
L’AFM discutera du rapport de stabilité avec la Chambre des représentants la semaine prochaine. L’objectif principal est de faire comprendre aux parlementaires que toutes les autorités compétentes doivent suivre de près l’évolution de la situation – et doivent disposer de connaissances suffisantes pour le faire. « C’est pourquoi il serait bon que la surveillance des marchés de capitaux devienne plus européenne. Nous l’avons déjà dit, mais cela s’applique certainement aussi aux développements de l’IA.
L’AFM ne voit désormais que les modèles de calcul et les résultats commerciaux des établissements financiers actifs aux Pays-Bas. De Dobbelaere : “Cela nous donne une image fragmentée.” Et un régulateur européen, tel que l’Autorité européenne des marchés financiers – qui se concentre déjà sur les acteurs du marché transfrontalier – serait également en mesure d’attirer plus facilement des personnes ayant une compréhension de l’IA, dit-il.