La Réunion de l’Élite de l’Intelligence Artificielle
Dans une maison offrant une vue imprenable sur le Golden Gate , les esprits les plus brillants de l’intelligence artificielle se sont réunis le dimanche dernier pour discuter d’une question troublante : la fin de l’humanité et ce qui pourrait suivre. Au cours de cette rencontre, une centaine d’invités, comprenant des philosophes , des entrepreneurs et des chercheurs, ont imaginé un monde dans lequel les humains n’existeraient plus, mais où subsisterait une intelligence conçue par nos soins. Quelle devrait être la nature de notre successeur ?
## La Fête du Fin du Monde
Cette rencontre, appelée “Worthy Successor” (Acte Suprême), avait pour but de discuter des modalités d’un “successeur” adéquat pour le jour où l’humanité ne serait plus. Ce concept est étroitement lié à l’émergence de l’ intelligence artificielle générale (AGI) ou, en anglais, Artificial General Intelligence . En d’autres termes, il s’agit d’une superintelligence qui surpasserait les capacités humaines dans tous les domaines, au point que, selon les mots de Daniel Faggella , l’hôte de l’événement : “Vous préféreriez largement qu’elle (et non l’humanité) détermine l’avenir de la vie elle-même.”
## Qui sont les Participants ?
À qui devons-nous ces réflexions ? Daniel Faggella est le fondateur de Emerj Artificial Intelligence Research , une firme spécialisée dans la consultation et l’ analyse en IA. En 2016, il écrivait sur les dangers de l’IA dans TechCrunch et se concentre désormais sur l’éthique de l’IA, avec un intérêt particulier pour la création de ce “worthy successor”. Il a rassemblé divers experts et figures influentes de l’industrie pour débuter ce dialogue crucial.
Lors de cette soirée, plusieurs présentations ont été effectuées par des intervenants comme Ginevra Davis , écrivain new-yorkais, et le philosophe Michael Edward Johnson . Bien que la liste complète des participants soit restée confidentielle, Faggella a mentionné la présence de fondateurs d’entreprises d’IA valorisées à plus de 5 milliards de dollars, ainsi que des chercheurs œuvrant pour créer une AGI.
## La Superintelligence et ses Risques
Faggella a fait part de ses inquiétudes dans une interview accordée à Wired : “Les grands laboratoires sont conscients que l’AGI pourrait finir par annihiler l’humanité, mais ils n’en discutent pas, car les incitations financières ne le permettent pas.” Bien que cela puisse sembler être une théorie du complot, des figures comme Bill Gates et Elon Musk ont déjà mis en garde contre les potentielles menaces que pose l’IA.
Dans le passé, des experts en IA ont signé des messages d’alerte concernant le “risque d’extinction dû à l’IA”. L’inquiétude continue de croître, mais beaucoup soutiennent que ces préoccupations sont basées sur des spéculations plutôt que sur des preuves concrètes. Des études récentes montrent que les systèmes actuels échouent à effectuer des tâches de raisonnement basiques, remettant en question la probabilité d’un développement imminent de la superintelligence.
Aussi, il est essentiel de noter que ceux qui publient des avertissements sont souvent des acteurs du secteur. Les intérêts commerciaux peuvent influencer ces déclarations, poussant des entreprises à susciter des peurs pour attirer des financements.
## Quel Héritage Laisserons-Nous ?
Le débat central de la soirée ne portait pas tant sur la manière dont l’humanité pourrait disparaître, mais plutôt sur la nature de l’intelligence que nous devrions envisager de créer comme héritier. Les discours se sont concentrés sur les valeurs et les compétences que cette nouvelle super-intelligence devrait incarner. Pour Faggella, l’humanité doit assumer la responsabilité de concevoir un successeur qui soit à la fois conscient et capable d’évoluer.
Le philosophe Michael Edward Johnson a ajouté une dimension éthique, soulignant le danger de créer une IA consciente : “Nous risquons de réduire en esclavage quelque chose qui peut souffrir ou de faire confiance à un entité en laquelle nous ne pouvons pas vraiment faire confiance.” Il a plaidé pour une éducation mutuelle entre humains et intelligences artificielles, visant à “poursuivre le bien”, sans vraiment définir ce que cela implique.
Ce dialogue a ouvert un débat éthique fascinant, bien que sa mise en pratique semble encore lointaine. Pour le moment, les réflexions sur un éventuel héritage laissé par l’humanité demeurent dans le domaine des idées, attendant une matérialisation qui pourrait prendre des années, voire des décennies.