\nL’\u00a0intelligence artificielle\u00a0 (IA) continue de fasciner et d’inqui\u00e9ter \u00e0 la fois. Parmi les nombreux sujets qui suscitent des d\u00e9bats, celui des “alucinations” des IA, c’est-\u00e0-dire leurs tendances \u00e0 fournir des r\u00e9ponses incorrectes ou invent\u00e9es, est particuli\u00e8rement pr\u00e9occupant. Les syst\u00e8mes aliment\u00e9s par des \u00a0mod\u00e8les de langage\u00a0, comme ceux d\u00e9velopp\u00e9s par OpenAI, sont souvent lou\u00e9s pour leur coh\u00e9rence et leur capacit\u00e9 \u00e0 dialoguer, mais la r\u00e9alit\u00e9 est que ces mod\u00e8les peuvent parfois s’\u00e9garer, proposant des suggestions qui d\u00e9fient toute logique.\n<\/p>\n
\nUn exemple troublant de cela pourrait \u00eatre une IA sugg\u00e9rant de \u00a0mettre de la colle\u00a0 sur une pizza pour garder le fromage en place. Ces suggestions peuvent sembler aberrantes, mais elles soulignent un probl\u00e8me fondamental dans la conception et l’entra\u00eenement des IA.\n<\/p>\n
\nDe nombreuses recherches ont \u00e9t\u00e9 men\u00e9es pour d\u00e9terminer pourquoi ces alucinations se produisent. Un r\u00e9cent rapport d’OpenAI expose que ces erreurs ne sont pas dues \u00e0 un \u00a0d\u00e9faut mystique\u00a0, mais plut\u00f4t \u00e0 des “pressions statistiques” au cours des phases d’entra\u00eenement et d’\u00e9valuation. Les mod\u00e8les de langage apprennent \u00e0 partir de vastes ensembles de donn\u00e9es de texte, mais malgr\u00e9 la qualit\u00e9 de ces donn\u00e9es, les m\u00e9thodes statistiques employ\u00e9es engendrent des erreurs.\n<\/p>\n
\nLors de la phase de \u00a0pr\u00e9-entra\u00eenement\u00a0, les mod\u00e8les doivent pr\u00e9dire la prochaine \u00a0mots\u00a0 dans une phrase, sans \u00e9tiquettes “vrai\/faux”. Ce manque de signaux clairs rend difficile l’\u00e9vitement des alucinations. Au lieu de cela, ces mod\u00e8les sont souvent incit\u00e9s \u00e0 “deviner” une r\u00e9ponse au lieu d’admettre qu’ils ne savent pas. En d’autres mots, lorsqu’un \u00e9tudiant fait face \u00e0 une question difficile, il peut choisir une r\u00e9ponse au hasard pour voir s’il a de la chance d’obtenir un bon r\u00e9sultat. Cela refl\u00e8te le comportement de certaines IA qui, lors de leur entra\u00eenement, sont encourag\u00e9es \u00e0 se lancer dans des conjectures.\n<\/p>\n
\nPour lutter contre ce probl\u00e8me, OpenAI propose une nouvelle approche d’entra\u00eenement, appel\u00e9e “Is-It-Valid” (IIV), qui entra\u00eene un mod\u00e8le \u00e0 distinguer les r\u00e9ponses \u00a0valides\u00a0 des r\u00e9ponses erron\u00e9es. Cette m\u00e9thode vise \u00e0 ce que, lorsque quelque chose est correct, le mod\u00e8le identifie ses r\u00e9ponses comme \u00e9tant correctes, erron\u00e9es ou m\u00eame \u00a0abstentions\u00a0, ce qui montre une certaine humilit\u00e9. En effet, des \u00e9tudes montrent que GPT-5, le dernier mod\u00e8le d’OpenAI, a consid\u00e9rablement r\u00e9duit sa fr\u00e9quence d’alucinations en se retirant plus souvent lors des tests, indiquant une am\u00e9lioration dans la capacit\u00e9 de l’IA \u00e0 reconna\u00eetre ses limites.\n<\/p>\n
\nCependant, malgr\u00e9 ces avanc\u00e9es, il existe encore un biais dans la fa\u00e7on dont les mod\u00e8les de langage sont \u00e9valu\u00e9s. Les benchmarks actuels se concentrent g\u00e9n\u00e9ralement sur les \u00a0taux de r\u00e9ussite\u00a0, encourageant les syst\u00e8mes \u00e0 maximiser leurs r\u00e9ponses correctes tout en n\u00e9gligeant les erreurs qu’ils commettent. Cela signifie qu’il existe peu de donn\u00e9es sur les taux de ces alucinations, qui devraient id\u00e9alement \u00eatre remplac\u00e9es par une simple r\u00e9ponse de type “je ne sais pas”.\n<\/p>\n
\nPour mieux g\u00e9rer ce ph\u00e9nom\u00e8ne, le syst\u00e8me \u00e9ducatif de type test pourrait nous offrir une perspective. En effet, il est courant que dans les examens, on p\u00e9nalise les erreurs plus que l’incertitude. Dans ce cadre, r\u00e9pondre correctement rapporte des points, tandis que r\u00e9pondre incorrectement en retire. Cela incite \u00e0 faire preuve de prudence plut\u00f4t que de tenter sa chance. Il est donc essentiel d’appliquer des concepts similaires aux mod\u00e8les d’IA.\n<\/p>\n
\nLe probl\u00e8me des alucinations des IA est un d\u00e9fi consid\u00e9rable qui appelle \u00e0 une red\u00e9finition des \u00a0m\u00e9thodes d’\u00e9valuation\u00a0 et des processus de formation des mod\u00e8les. Bien que des am\u00e9liorations soient en cours, il est crucial de rester vigilant sur la mani\u00e8re dont nous supervisons et \u00e9valuons ces technologies en pleine \u00e9volution, afin d’assurer qu’elles soient \u00e0 la fois efficaces et \u00e9thiques dans leurs interactions avec les utilisateurs. Une approche \u00e9quilibr\u00e9e pourrait ainsi offrir une solution pour minimiser ces alucinations et favoriser un dialogue plus fiable entre l’homme et la machine. Les Alucinations de l’Intelligence Artificielle : Un Ph\u00e9nom\u00e8ne Inqui\u00e9tant L’\u00a0intelligence artificielle\u00a0 (IA) continue de fasciner et d’inqui\u00e9ter \u00e0 la fois. Parmi les nombreux sujets qui suscitent des d\u00e9bats, celui des “alucinations” des IA, c’est-\u00e0-dire leurs tendances \u00e0 fournir des r\u00e9ponses incorrectes ou invent\u00e9es, est particuli\u00e8rement pr\u00e9occupant. Les syst\u00e8mes aliment\u00e9s par des \u00a0mod\u00e8les de langage\u00a0, comme […]<\/p>\n","protected":false},"author":1,"featured_media":1718457,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[2514,5671,3992,10660,318077,65,136252,132,2147,5028,3559],"class_list":["post-1718456","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-aurait","tag-decouvert","tag-dire","tag-elles","tag-hallucinent","tag-les","tag-openai","tag-pas","tag-pourquoi","tag-sais","tag-savent"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1718456","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=1718456"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1718456\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/1718457"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=1718456"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=1718456"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=1718456"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n
\n
F1-ES<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"