Restez informé avec des mises à jour gratuites
Inscrivez-vous simplement au Intelligence artificielle myFT Digest – livré directement dans votre boîte de réception.
Les régulateurs doivent trouver rapidement un moyen de gérer les risques que fait peser sur la stabilité financière la concentration du pouvoir dans les plateformes d’intelligence artificielle, a exhorté le président de la Securities and Exchange Commission des États-Unis.
Gary Gensler a déclaré au Financial Times que sans une intervention rapide, il était « presque inévitable » que l’IA déclenche une crise financière d’ici une décennie.
L’élaboration de la réglementation de l’IA serait un test difficile pour les régulateurs américains, a déclaré le président de la SEC, car les risques potentiels concernent tous les marchés financiers et proviennent de modèles élaborés par des entreprises technologiques qui ne relèvent pas de la compétence des organismes de surveillance de Wall Street.
« C’est franchement un défi difficile », a déclaré Gensler. « Il s’agit d’un problème de stabilité financière difficile à résoudre, car la majeure partie de notre réglementation concerne des institutions individuelles, des banques individuelles, des fonds du marché monétaire individuels, des courtiers individuels ; c’est simplement dans la nature de ce que nous faisons. Et il s’agit d’une horizontale [matter whereby] de nombreuses institutions peuvent s’appuyer sur le même modèle de base sous-jacent ou sur le même agrégateur de données sous-jacent.
La SEC a proposé en juillet une règle traitant des conflits d’intérêts potentiels dans l’analyse prédictive des données, mais elle s’est concentrée sur les modèles individuels déployés par les courtiers et les conseillers en investissement.
Même si les mesures actuelles étaient mises à jour, « cela ne répond toujours pas à cette question horizontale. . . si tout le monde s’appuie sur un modèle de base et que le modèle de base ne se trouve pas chez le courtier, mais chez l’une des grandes entreprises technologiques », a déclaré Gensler. « Et combien de fournisseurs de cloud [which tend to offer AI as a service] avons-nous dans ce pays ?
Il a ajouté : « J’ai soulevé cette question au Conseil de stabilité financière. J’en ai parlé au Conseil de surveillance de la stabilité financière. Je pense qu’il s’agit vraiment d’un défi inter-réglementaire ».
Les régulateurs du monde entier se demandent comment contrôler l’IA, car les groupes technologiques et leurs modèles ne sont pas naturellement capturés par des organismes de surveillance spécifiques. L’UE a agi rapidement, en élaborant des mesures strictes concernant l’utilisation de l’IA dans une loi révolutionnaire qui devrait être entièrement approuvée d’ici la fin de l’année. Les États-Unis, cependant, examinent la technologie pour déterminer quels aspects nécessitent une nouvelle réglementation et lesquels sont soumis aux lois existantes.
Wall Street a déjà adopté l’IA de plusieurs manières, depuis les conseils automatisés jusqu’aux processus d’ouverture de compte et dans les applications de courtage.
Mais Gensler craint que les partis fondant leurs décisions sur le même modèle de données ne conduisent à un comportement grégaire qui porterait atteinte à la stabilité financière et déclencherait la prochaine crise.
« Je pense que nous connaîtrons une crise financière à l’avenir. . .[and] dans les rapports d’après-action, les gens diront « Aha ! Il y avait soit un agrégateur de données, soit un seul modèle. . . nous avons compté ». C’est peut-être sur le marché hypothécaire. C’est peut-être dans un secteur du marché boursier », a déclaré Gensler.
La puissante « économie des réseaux » de l’IA la rend « presque inévitable », a-t-il ajouté, prédisant qu’une crise pourrait survenir dès la fin des années 2020 ou le début des années 2030.
Les législateurs et les régulateurs de Washington ont intensifié leur surveillance de l’IA, soulevant des inquiétudes concernant la stabilité du marché, la protection des données et les lois antitrust. La Federal Trade Commission a lancé en juillet un examen du fabricant de ChatGPT, OpenAI, portant sur les préjudices causés aux consommateurs et la sécurité des données. Les agences antitrust ont averti que la dépendance structurelle de l’IA à l’échelle pourrait conduire à des monopoles technologiques.
Gensler, qui s’est penché sur la concentration sur les marchés des capitaux pour promouvoir l’efficacité, estime que l’IA pourrait générer des problèmes de concurrence dans ce domaine. « Cela pourrait-il conduire à une plus grande concentration des teneurs de marché ? il a dit.
La SEC finalise également une règle très attendue, proposée en mars 2022, qui oblige les entreprises publiques à divulguer leurs émissions directes et celles dérivées de l’énergie qu’elles achètent, connues respectivement sous le nom de scope 1 et scope 2. Selon la proposition, les émissions de scope 3, une mesure large incluant les produits qu’une entreprise achète à des tiers ne devrait être déclarée que s’ils sont jugés « importants » ou font partie des objectifs climatiques des entreprises.
Gensler a refusé de dire si les informations de portée 3, qui ont été bien accueillies par les investisseurs mais critiquées par les entreprises américaines, seraient incluses dans la version finale de la règle.
Cependant, il a déclaré qu’il ferait « la bonne chose pour le public américain en adoptant une règle qui soit conforme à la loi et soutenue par les tribunaux ». [and] j’y ai réfléchi en me basant sur les commentaires [the SEC has received]basé sur l’économie, basé sur la tentative d’apporter une certaine cohérence à ce qui se passe déjà ».
Il a noté qu’en 2021, 55 % des entreprises du Russell 1000 ont déjà divulgué leurs émissions de scope un et de scope deux.
La proposition climatique a suscité la colère des législateurs et des procureurs généraux républicains, dont une vingtaine ont menacé de poursuivre la SEC au motif qu’elle outrepasserait son autorité, une affirmation que Gensler nie. Le programme actif de réglementation du président est confronté à d’autres défis juridiques, notamment un procès intenté par une coalition de groupes de capital-investissement, de capital-risque et de fonds spéculatifs cherchant à bloquer de nouvelles mesures radicales pour les gestionnaires de fonds privés.