Introduction au phénomène
De plus en plus de visiteurs se rendent dans les bibliothèques, mais non pas pour emprunter des livres classiques, mais pour rechercher des ouvrages qui n’existent pas. Ce phénomène troublant résulte de la propagation du contenu généré par Intelligence Artificielle (IA), souvent qualifié de “slop” (contenu de faible qualité). Ce contenu déplorable pollue l’Internet et se propage jusqu’aux espaces culturels comme les bibliothèques.
Ce qui se passe réellement
Selon un article de Scientific American, des individus affluent dans des bibliothèques à la recherche d’articles scientifiques ou de livres qui n’existent tout simplement pas. La Croix-Rouge a alerté sur cette problématique, blâmant des outils d’IA tels que ChatGPT et Copilot pour ces faux documents. Ces systèmes reproduisent des contenus en s’appuyant sur des modèles statistiques sans mener de véritables recherches.
Un problème croissant pour les bibliothèques
Des bibliothécaires exaspérés. La directrice de recherche d’une bibliothèque en Virginie a déclaré que près de 15% des demandes reçues par email concernent des documents générés par des IA. Les bibliothécaires se retrouvent souvent face à un défi : prouver que ces ressources sont inventées. Un utilisateur sur la plateforme Bluesky a partagé une anecdote similaire, rapportant qu’un étudiant lui a demandé des références obtenues via une IA de Google.
Des références inventées
Le sujet des citations inventées n’est pas nouveau. En 2023, plusieurs universités, dont celle de Seattle, ont soulevé des inquiétudes concernant la vérifiabilité de ces références. Les IA, telles que ChatGPT, mélangent des informations réelles avec des contenus fictifs, rendant ces “références” impossibles à tracer.
Critiques des livres générés par IA
Livres de mauvaise qualité. Les bibliothécaires se plaignent également des ouvrages entièrement rédigés par IA, souvent jugés de “qualité médiocre”. Des cas comme celui de la Corée du Sud, où un programme éducatif a échoué en raison de livres scolaires générés par IA, illustrent bien ce problème.
Problèmes de droits d’auteur
Un autre aspect soulevé concerne la protection des droits d’auteur. Des œuvres littéraires sont utilisées sans consentement pour entraîner des IA, ce qui a conduit à des poursuites judiciaires. Récemment, un tribunal a statué en faveur des entreprises accusées, laissant les auteurs sans protection.
La prolifération des articles sur l’IA
Papiers sur l’IA, mais faits avec IA. Il a été constaté que de nombreux articles de recherche sur l’IA sont eux-mêmes générés par des IA. Ce phénomène a augmenté le nombre de papiers publiés, mais également la nécessité d’un examen rigoureux de la part d’experts. La qualité des travaux soumis a souvent souffert de l’inclusion de données inventées et d’erreurs méthodologiques.
Les alucinaciones des IA
Les “alucinaciones”, ou inventions de contenus par IA, sont devenues courantes. Cela représente une faiblesse des modèles linguistiques, où même de grandes entreprises comme Deloitte ont été compromises par ces erreurs. Un rapport remis au gouvernement australien contenait des références fausses générées par IA.
À mesure que ces problèmes continuent d’affecter les bibliothèques et autres institutions, la société doit trouver un moyen de naviguer à travers ce paysage complexe où la technologie et l’authenticité se confrontent.
Image | Cottonbro studio, Pexels