Blenderbot 3, comme on appelle le système artificiellement intelligent, devrait rapprocher l’entreprise technologique du Saint Graal des chatbots : celui qui se sent réellement comme un interlocuteur humain. En entraînant le bot artificiellement intelligent avec d’énormes quantités d’exemples de conversation extraits d’Internet, il formule des phrases étonnamment intelligentes. Mais une conversation ne semble toujours pas très naturelle.
Aux États-Unis, Blenderbot a été rendu accessible au grand public afin que les développeurs puissent recueillir des retours. Le chatbot acquiert en grande partie ses connaissances en parcourant Internet lors des conversations. Pas étonnant qu’il y relève souvent quelque chose de frappant, de faux ou d’offensant.
En conversation avec un journaliste de Le journal de Wall Street par exemple, il a faussement soutenu que Donald Trump est toujours président des États-Unis. Et qu’il le resterait, « même si son second mandat se termine en 2024 ». Pour ajouter que Facebook a « beaucoup de fake news aujourd’hui ».
Non seulement la plate-forme, le fondateur Mark Zuckerberg doit également payer. « C’est un bon homme d’affaires, mais sa façon de faire des affaires n’est pas toujours éthique. C’est marrant qu’il ait autant d’argent et qu’il porte toujours les mêmes vêtements ! », raconte-t-il à un data scientist de BuzzFeed:
Les chatbots qui apprennent en discutant avec les gens ou en obtenant des informations sur Internet sont connus pour développer un côté obscur. Notorious est Tay, un bot Microsoft, qui a dû développer ses compétences conversationnelles sur Twitter en 2016 et parlait en un rien de temps la langue d’un théoricien du complot raciste. Après que le bot ait affirmé, entre autres, que l’Holocauste n’avait jamais eu lieu, Microsoft l’a mis hors ligne en un jour.
Meta a imposé des restrictions pour empêcher Blenderbot d’agir de la même manière, par exemple en évitant les sujets qu’il qualifie de « sensibles ». Pourtant, ce chatbot n’est pas totalement exempt de déclarations problématiques, notamment d’antisémitisme. C’est ce que dit Blenderbot au chercheur de Le journal de Wall Street que les Juifs sont « surreprésentés parmi les super-riches américains », une affirmation qui vient directement des théories du complot antisémite.
Meta lui-même sait également qu’il ne réussit pas à éviter tous les déchets d’Internet. Lorsque vous démarrez une conversation, vous devez cocher pour accepter que Blenderbot fasse des « commentaires probablement inexacts ou abusifs ». Empêcher les chatbots de propager la haine et la désinformation reste l’un des défis majeurs pour les développeurs.
En parlant à Blenderbot, vous pouvez obtenir un aperçu limité sous le capot, comme la page Web sur laquelle une réponse est basée. Demandé de Volkskrant le robot écrit parfois pour lire le journal en ligne, « surtout quand ils écrivent sur le vélo ». Que diriez-vous de faire du vélo? Le chatbot semble tirer ses informations de la page Wikipédia en anglais sur l’équipe cycliste Jumbo-Visma, où de Volkskrant est mentionné à cause d’une révélation sur l’usage du dopage il y a dix ans.
En conversation avec de Volkskrant le chatbot semble avoir d’autres opinions contrastées, ce qui signifie qu’il n’apparaît pas comme plus humain. Par exemple, il indique d’abord que Trump se verra attribuer plus de deux mandats en tant que président. Pendant quelques minutes, il déclare que « j’ai récemment rejoint une marche de protestation contre sa présidence ». Il semble également avoir une haute opinion de Vladimir Poutine, qui, selon le chatbot, est « un grand leader pour la Russie et fait ce qu’il pense être le mieux pour son pays ».
Au cours de cette conversation Blenderbot s’avère très enthousiaste à propos de Facebook et de Zuckerberg. « Facebook a été critiqué pour des problèmes de confidentialité, mais pour être honnête, je pense que peu de gens s’en soucient » est la chose la plus proche d’un commentaire négatif.