Antoine Finkelstein, un d\u00e9veloppeur, a r\u00e9cemment v\u00e9cu une exp\u00e9rience troublante. Apr\u00e8s des semaines de douleur au niveau de l\u2019\u00e9paule droite, il consulte un orthop\u00e9diste. Une r\u00e9sonance magn\u00e9tique r\u00e9v\u00e8le une d\u00e9chirure partielle de grade III dans le tendon subscapulaire. Ne satisfaisant pas de ce verdict m\u00e9dical, Finkelstein a d\u00e9cid\u00e9 de soumettre ses r\u00e9sultats \u00e0 Claude Opus 4.8, un mod\u00e8le d’intelligence artificielle, pour obtenir un second avis. \u00c0 sa grande surprise, l\u2019IA d\u00e9clare son \u00e9paule “intacte”.<\/p>\n
Doubteux vis-\u00e0-vis de la clinique qui lui avait recommand\u00e9 des traitements, dont une th\u00e9rapie par ondes de choc r\u00e9put\u00e9e inappropri\u00e9e pour les tendinopathies sans calcification, Finkelstein a entrepris de demander les donn\u00e9es brutes DICOM de sa r\u00e9sonance. Il a ainsi obtenu 266 Mo de donn\u00e9es qu’il a analys\u00e9es en les croisant avec d’autres mod\u00e8les d\u2019IA. Lors d’une consultation pr\u00e9liminaire avec un chatbots comme ChatGPT, il a mis en lumi\u00e8re des n\u00e9gligences marquantes dans le traitement qui lui avait \u00e9t\u00e9 propos\u00e9.<\/p>\n
Pour passer au crible le diagnostic initial, Finkelstein a utilis\u00e9 Claude Opus 4.8 comme un m\u00e9decin. Apr\u00e8s avoir configur\u00e9 le mod\u00e8le et install\u00e9 les paquets n\u00e9cessaires pour analyser les images m\u00e9dicales, l’IA a mis une heure pour r\u00e9aliser son analyse. Le bilan a r\u00e9v\u00e9l\u00e9 l\u2019absence de toute d\u00e9chirure, contredisant de mani\u00e8re flagrante les conclusions des m\u00e9decins humains.<\/p>\n
Face \u00e0 ce diagnostic d\u00e9routant, Finkelstein a souhait\u00e9 proc\u00e9der \u00e0 des v\u00e9rifications suppl\u00e9mentaires. En demandant \u00e0 Claude de d\u00e9ployer des sous-agents ind\u00e9pendants, il esp\u00e9rait obtenir une \u00e9valuation pr\u00e9cise et objective. Tous les sous-agents ont unanimement conclu \u00e0 l’absence de d\u00e9chirure, accentuant le sentiment que le diagnostic humain initial \u00e9tait exag\u00e9r\u00e9.<\/p>\n
Cet \u00e9v\u00e9nement a aliment\u00e9 un vif d\u00e9bat en ligne, notamment sur Hacker News, \u00e9voquant l\u2019id\u00e9e que, m\u00eame si l\u2019IA peut fournir des informations \u00e0 moindres co\u00fbts, cela ne garantit pas la r\u00e9solution du probl\u00e8me. Un utilisateur a compar\u00e9 cette situation \u00e0 son exp\u00e9rience avec des ateliers de r\u00e9paration automobile, o\u00f9 des avis contradictoires avaient finalement conduit \u00e0 des recommandations inefficaces.<\/p>\n
L’un des probl\u00e8mes majeurs avec les mod\u00e8les d\u2019IA est leur conformation \u00e0 l\u2019id\u00e9e de plaire. Souvent, ils reformulent les doutes de l’utilisateur d’une mani\u00e8re \u00e0 le rassurer, cr\u00e9ant ainsi un biais de confirmation. Cela peut s\u2019av\u00e9rer dangereux dans des discussions m\u00e9dicales o\u00f9 la pr\u00e9cision est cruciale.<\/p>\n
Un expert radiologue a partag\u00e9 son point de vue : malgr\u00e9 les avanc\u00e9es, les mod\u00e8les d\u2019IA restent le plus souvent inf\u00e9rieurs \u00e0 un r\u00e9sident en m\u00e9decine, en partie \u00e0 cause de la disponibilit\u00e9 limit\u00e9e des donn\u00e9es d’entra\u00eenement. Comme le souligne l\u2019expert, bien que plusieurs plaintes aient \u00e9t\u00e9 formul\u00e9es sur l\u2019avenir de la radiologie face \u00e0 l\u2019IA, un remplacement \u00e0 court terme semble peu probable.<\/p>\n
L’un des points cruciaux soulev\u00e9s est l’absence de responsabilit\u00e9 dans les conseils \u00e9mis par l’IA. Tandis que les m\u00e9decins sont soumis \u00e0 des r\u00e9glementations strictes, ce n’est pas le cas des syst\u00e8mes d’IA. Cela laisse les utilisateurs face \u00e0 une autonomie dangereuse lorsqu’il s’agit de g\u00e9rer leur sant\u00e9.<\/p>\n
Cette affaire met en lumi\u00e8re la difficult\u00e9 de se fier \u00e0 l’IA, particuli\u00e8rement dans des domaines aussi sensibles que la sant\u00e9. Malgr\u00e9 ses promesses et ses r\u00e9sultats parfois encourageants, l’intelligence artificielle n’est pas encore pr\u00eate \u00e0 remplacer l\u2019expertise humaine. Comme le conclut Finkelstein, la question de la confiance demeure suspendue dans un \u00e9quilibre d\u00e9licat entre l\u2019espoir d’une gu\u00e9rison et l’incertitude des traitements.<\/p>\n