Lorsque Geoffrey Hinton a eu une objection éthique à ce que son employeur Google travaille avec l’armée américaine en 2018, il n’a pas participé aux manifestations publiques ni mis son nom sur la lettre de plainte ouverte signée par plus de 4 000 de ses collègues.
Au lieu de cela, il vient de parler à Sergey Brin, co-fondateur de Google. «Il a dit qu’il était un peu contrarié à ce sujet aussi. Et donc ils ne le poursuivent pas », a déclaré Hinton dans une interview à l’époque.
L’incident est symbolique de l’influence discrète de Hinton dans le monde de l’intelligence artificielle. Le professeur de 75 ans est vénéré comme l’un des « parrains » de l’IA en raison de son travail de formation sur l’apprentissage en profondeur – un domaine de l’IA qui a entraîné les énormes progrès réalisés dans le secteur.
Mais l’anecdote reflète aussi la loyauté de Hinton, selon ceux qui le connaissent bien. Par principe, il n’a jamais exprimé publiquement de griefs d’entreprise, éthiques ou autres.
C’est cette conviction qui l’a amené à quitter son poste de vice-président et ingénieur chez Google la semaine dernière, afin qu’il puisse parler plus librement de ses craintes croissantes concernant les risques de l’IA pour l’humanité.
Yoshua Bengio, son collaborateur et ami de longue date, qui a remporté le prix Turing aux côtés de Hinton et Yann LeCun en 2018, a déclaré avoir vu la démission venir. « Il aurait pu rester chez Google et s’exprimer, mais son sens de la loyauté est tel qu’il ne le ferait pas », a déclaré Bengio.
La démission de Hinton fait suite à une série de lancements révolutionnaires d’IA au cours des six derniers mois, à commencer par ChatGPT d’OpenAI soutenu par Microsoft en novembre et le propre chatbot de Google, Bard, en mars.
Hinton a exprimé ses inquiétudes quant au fait que la course entre Microsoft et Google ferait avancer le développement de l’IA sans garde-fous et réglementations appropriées en place.
« Je pense que Google était très responsable au départ », a-t-il déclaré dans un discours lors d’un événement EmTech Digital mercredi, après que sa démission a été rendue publique. « Une fois qu’OpenAI avait construit des choses similaires en utilisant . . . l’argent de Microsoft, et que Microsoft a décidé de le diffuser, alors Google n’avait pas vraiment le choix. Si vous allez vivre dans un système capitaliste, vous ne pouvez pas empêcher Google de concurrencer Microsoft.
Depuis les années 1970, Hinton a été le pionnier du développement des « réseaux de neurones », une technologie qui tente d’imiter le fonctionnement du cerveau. Il sous-tend désormais la plupart des outils et produits d’IA que nous utilisons aujourd’hui, de Google Translate et Bard, à ChatGPT et aux voitures autonomes.
Mais cette semaine, il a reconnu les craintes concernant son développement rapide, qui pourrait entraîner la désinformation inondant la sphère publique et l’IA usurpant plus d’emplois humains que prévu.
« Mon inquiétude est que cela [make] les riches plus riches et les pauvres plus pauvres. Comme vous le faites. . . la société devient plus violente », a déclaré Hinton. « Cette technologie qui devrait être merveilleuse. . . se développe dans une société qui n’est pas conçue pour l’utiliser pour le bien de tous.
Hinton a également sonné l’alarme sur les menaces à plus long terme posées par les systèmes d’IA aux humains, si la technologie était trop autonome. Il avait toujours cru que ce risque existentiel était loin, mais a récemment recalibré sa réflexion sur son urgence.
« Il est tout à fait concevable que l’humanité soit une phase passagère dans l’évolution de l’intelligence », a-t-il déclaré. La décision de Hinton de quitter Google après une décennie a été stimulée par un collègue universitaire qui l’a convaincu d’en parler, a-t-il ajouté.
Né à Londres, Hinton est issu d’une illustre lignée de scientifiques. Il est l’arrière-arrière-petit-fils des mathématiciens britanniques Mary et George Boole, ce dernier ayant inventé la logique booléenne, la théorie qui sous-tend l’informatique moderne.
En tant que psychologue cognitif, le travail de Hinton sur l’IA a visé à se rapprocher de l’intelligence humaine – non seulement pour construire la technologie de l’IA, mais pour éclairer le fonctionnement de notre propre cerveau.
Stuart Russell, professeur d’IA à l’Université de Californie à Berkeley, un pair universitaire de Hinton, a déclaré que son parcours signifiait qu’il n’était «pas le plus mathématique des gens que vous trouverez dans la communauté de l’apprentissage automatique».
Il a souligné la grande percée de Hinton en 1986, lorsqu’il a publié un article sur une technique appelée «rétropropagation», qui montrait comment les logiciels informatiques pouvaient apprendre au fil du temps.
« C’était clairement un article fondateur », a déclaré Russell. « Mais il n’a pas dérivé le . . . gouverner comme le ferait un mathématicien. Il a utilisé son intuition pour trouver une méthode qui fonctionnerait.
Hinton n’a pas toujours exprimé publiquement ses opinions éthiques, mais en privé, il les a clairement exprimées.
En 1987, alors qu’il était professeur agrégé à l’Université Carnegie Mellon aux États-Unis, il décide de quitter son poste et d’émigrer au Canada.
L’une des raisons qu’il a données, selon Bengio, était d’ordre éthique – il était préoccupé par l’utilisation de la technologie, en particulier l’IA, dans la guerre et une grande partie de son financement provenait de l’armée américaine.
« Il voulait se sentir bien avec le financement qu’il avait obtenu et le travail qu’il faisait », a déclaré Bengio. « Lui et moi partageons des valeurs sur la société. Que les humains comptent, que la dignité de tous les humains est essentielle. Et tout le monde devrait bénéficier des progrès que la science est en train de créer.
En 2012, Hinton et ses deux étudiants diplômés de l’Université de Toronto, dont Ilya Sutskever, maintenant cofondateur d’OpenAI, ont fait une percée majeure dans le domaine de la vision par ordinateur. Ils ont construit des réseaux de neurones capables de reconnaître des objets dans des images d’ordres de grandeur avec plus de précision que jamais auparavant. Sur la base de ces travaux, ils fondent leur première start-up, DNNresearch.
Leur entreprise – qui ne fabriquait aucun produit – a été vendue à Google pour 44 millions de dollars en 2013, après une enchère compétitive qui a conduit les Chinois Baidu, Microsoft et DeepMind à soumissionner pour acquérir l’expertise du trio.
Depuis lors, Hinton a passé la moitié de son temps chez Google et l’autre moitié en tant que professeur à l’Université de Toronto.
Selon Russell, Hinton propose constamment de nouvelles idées et essaie de nouvelles choses. « Chaque fois qu’il avait une nouvelle idée, il disait à la fin de son discours : ‘Et ce c’est comme ça que fonctionne le cerveau ! »
Lorsqu’on lui a demandé sur scène s’il regrettait le travail de sa vie, étant donné qu’il pouvait contribuer à la myriade de dommages qu’il avait décrits, Hinton a déclaré qu’il y avait réfléchi.
« Cette étape de [AI] n’était pas prévisible. Et jusqu’à très récemment, je pensais que cette crise existentielle était loin », a-t-il déclaré. « Donc, je n’ai pas vraiment de regrets sur ce que je fais. »