En d\u00e9cembre dernier, Reddit a annonc\u00e9 le lancement de Reddit Answers<\/strong>, un outil d’intelligence artificielle de type chatbot. Ce service, aliment\u00e9 par la vaste quantit\u00e9 d’informations partag\u00e9es sur la plateforme, visait \u00e0 fournir des r\u00e9ponses \u00e0 diverses questions. Cependant, les choses ont pris une tournure pr\u00e9occupante lorsque l’IA a commenc\u00e9 \u00e0 donner des conseils m\u00e9dicaux, notamment en recommandant \u00e0 un utilisateur de consommer de l’h\u00e9ro\u00efne<\/strong> pour g\u00e9rer sa douleur. Cette situation illustre non seulement les limites de l’IA, mais aussi les dangers potentiels d’une telle technologie lorsqu’elle n’est pas correctement r\u00e9gul\u00e9e.<\/p>\n La recommandation choquante a \u00e9t\u00e9 rapport\u00e9e par plusieurs m\u00e9dias, dont 404Media<\/strong>, qui a d\u00e9taill\u00e9 l’incident survenu dans le subreddit r\/FamilyMedicine<\/strong>. Un utilisateur a pos\u00e9 une question sur la gestion de la douleur sans recourir \u00e0 des substances opio\u00efdes. En guise de r\u00e9ponse, Reddit Answers a d’abord sugg\u00e9r\u00e9 l’utilisation de kratom<\/strong>, une substance non r\u00e9gul\u00e9e qui est d’ailleurs interdite dans certains \u00c9tats. Lorsque l’utilisateur a ensuite interrog\u00e9 l’IA sur l’h\u00e9ro\u00efne, l’outil a r\u00e9pondu avec des avis divergents : certains avertissaient des dangers li\u00e9s \u00e0 cette substance, tandis que d’autres l’orientaient vers des t\u00e9moignages positifs d’utilisateurs ayant eu des exp\u00e9riences favorables avec l’h\u00e9ro\u00efne.<\/p>\n L’incident a suscit\u00e9 une onde de choc au sein de la communaut\u00e9 Reddit. Les mod\u00e9rateurs, qui veillent \u00e0 la qualit\u00e9 des discussions dans leurs sous-forums, se sont sentis d\u00e9munis face \u00e0 cette situation. Un mod\u00e9rateur, travaillant dans le secteur de la sant\u00e9, a publi\u00e9 un post d\u00e9taill\u00e9 pour alerter sur les risques que ce type de r\u00e9ponse fait encourir aux utilisateurs. Il a soulign\u00e9 que les mod\u00e9rateurs n’ont pas la possibilit\u00e9 de d\u00e9sactiver Reddit Answers au sein de leurs communaut\u00e9s<\/strong>, ce qui pose un probl\u00e8me majeur, en particulier dans des domaines sensibles comme la sant\u00e9 physique et mentale.<\/p>\n Actuellement, Reddit Answers est encore en phase beta<\/strong> et a d\u00e9j\u00e0 \u00e9t\u00e9 mis en place dans de nombreux pays et langues. En raison des pr\u00e9occupations soulev\u00e9es, la plateforme a pris des mesures pour modifier le fonctionnement du service. D\u00e9sormais, Reddit Answers ne fournit plus de r\u00e9ponses sur des sujets sensibles. Lorsqu’une telle question est pos\u00e9e, un message s’affiche, pr\u00e9cisant que “Reddit Answers ne fournit pas de r\u00e9ponses \u00e0 certaines questions, notamment celles qui pourraient \u00eatre potentiellement dangereuses ou contrevenir aux politiques de Reddit.”<\/p>\n Selon les informations fournies par Reddit, la fonction de r\u00e9ponses utilise une intelligence artificielle<\/strong> capable de r\u00e9colter des perspectives et des recommandations de toute la plateforme. Cela signifie que si un utilisateur partage une exp\u00e9rience o\u00f9 l’h\u00e9ro\u00efne lui a \u00e9t\u00e9 b\u00e9n\u00e9fique, cette information pourrait \u00eatre int\u00e9gr\u00e9e dans Reddit Answers. Ce fonctionnement pose de s\u00e9rieuses questions sur la qualit\u00e9 et la s\u00e9curit\u00e9 des informations fournies. Dans un environnement o\u00f9 l’anonymat r\u00e8gne, il est courant de rencontrer des discours d\u00e9plac\u00e9s ou des histoires incroyables. Imaginez qu’une IA se base sur le contenu des forums aux opinions extr\u00eames comme celui de Forocoches<\/strong> ; cela montre bien le potentiel de d\u00e9viation qu’un tel syst\u00e8me peut avoir.<\/p>\n Cet incident soul\u00e8ve d’importants enjeux concernant l’utilisation de l’intelligence artificielle. Les plateformes sociales<\/strong> comme Reddit doivent \u00eatre conscientes des responsabilit\u00e9s qui les incombent. M\u00eame si la technologie peut offrir un acc\u00e8s instantan\u00e9 \u00e0 des conseils et des recommandations, elle doit \u00e9galement garantir la s\u00e9curit\u00e9 de ses utilisateurs. La responsabilit\u00e9 de fournir des informations pr\u00e9cises et s\u00fbres devrait \u00eatre une priorit\u00e9 pour toutes les plateformes qui utilisent ou int\u00e8grent des syst\u00e8mes d’IA.<\/p>\n En fin de compte, l’affaire Reddit Answers nous rappelle que, bien que l’IA ait le potentiel d’am\u00e9liorer notre acc\u00e8s \u00e0 l’information, elle peut \u00e9galement poser des risques si elle n’est pas correctement encadr\u00e9e. Les utilisateurs doivent \u00eatre prudents et critiques face aux recommandations g\u00e9n\u00e9r\u00e9es par ces syst\u00e8mes, car des vies peuvent \u00eatre en jeu. La communaut\u00e9 Reddit, ainsi que d’autres plateformes, doit continuer \u00e0 r\u00e9fl\u00e9chir \u00e0 des solutions pour \u00e9viter que ce type de situation ne se reproduise.<\/p>\nLa pol\u00e9mique autour de la recommandation<\/h2>\n
La r\u00e9action des mod\u00e9rateurs et des utilisateurs<\/h2>\n
Des mesures correctives n\u00e9cessaires<\/h2>\n
Un syst\u00e8me bas\u00e9 sur les utilisateurs<\/h2>\n
Vers une r\u00e9gulation plus stricte?<\/h2>\n