Christopher Olah : Un Acteur Clé de l’Éthique en IA
Si quelqu’un a pu attirer l’attention du Pape Léon XIV lors de la publication de sa première encyclique, c’est bien Christopher Olah. Cet ancien cofondateur d’Anthropic a joué un rôle central dans la présentation de ce texte papal, à la fois par le contenu de son discours et par sa présence marquante lors de l’événement.
Anthropic et le Monopole de l’IA
Olah était l’unique représentant des entreprises que le Pape désigne comme « monopolistes du savoir, des données et des décisions ». Ces entreprises définissent les conditions d’accès et d’interaction avec l’intelligence artificielle (IA) et influencent les opportunités économiques liées à cette technologie.
Le fait qu’Anthropic soit mentionnée souligne la stratégie de communication de la société et son engagement envers des valeurs humanistes. Par contraste, d’autres géants technologiques comme Microsoft ou IBM ont signé des codes éthiques soutenus par l’Église, alors qu’Anthropic ne l’a pas fait.
Le Passé d’Olah et Amodei
Tant Olah que son cofondateur, Dario Amodei, ont précédemment travaillé chez OpenAI. Ils ont fondé Anthropic car ils estimaient qu’OpenAI s’éloignait de sa mission originelle, négligeant la sécurité de la technologie. Leur objectif est de créer une IA bénéfique pour l’humanité, caractérisée par un contrôle rigoureux.
Une Présentation Conjointe avec le Pape
Si une entreprise devait être associée au Pape pour la présentation de l’encyclique Magnifica Humanitas, cela devait être Anthropic. Olah a su aborder des sujets qui s’alignent avec les préoccupations du Pape, appelant à une réglementation accrue de la technologie et à une vigilance des gouvernements.
Il a établi des liens entre l’IA et les préoccupations éthiques, évoquant des « incitations » qui pourraient influencer la recherche et le développement dans ce domaine. « Même avec les meilleures intentions, nous sommes toujours affectés par ces incitations », a-t-il déclaré.
Conflits et Régulations
Olah a pris la parole peu de temps après que l’ancien président Donald Trump ait refusé de signer une régulation sur l’IA, craignant que cela n’empêche les États-Unis de rivaliser avec la Chine. Actuellement, Anthropic fait face à une bataille juridique avec le gouvernement américain, qui a interrompu son accès à certaines technologies pour des raisons éthiques.
L’Impact de l’IA sur la Société
Un sujet majeur de l’encyclique est l’utilisation éthique de l’IA, en particulier en contexte militaire. Le Pape se prononce contre les armes autonomes et insiste sur la nécessité d’une supervision rigoureuse concernant l’usage de l’IA en situations de conflit.
De plus, l’encyclique évoque la nécessité de garder l’IA sous le contrôle de pouvoir externe aux entreprises pour en garantir les bénéfices tout en évitant de nouveaux dangers.
Conséquences Économiques de l’IA
Le Pape exprime une réelle préoccupation face à la destruction d’emplois due à l’IA, un sujet sur lequel Anthropic a également attiré l’attention. Les deux parties reconnaissent la nécessité d’adapter les compétences des travailleurs à cette nouvelle ère, bien qu’aucune solution concrète ne soit proposée.
En somme, Christopher Olah, en tant que visage d’Anthropic, incarne un pont entre les initiatives technologiques et les préoccupations éthiques contemporaines, naviguant ainsi dans le complexe paysage de l’intelligence artificielle.