Analyse d’un Diagnostic Inversé : Quand l’IA Confond le Diagnostique
Cas de Finkelstein : L’Histoire d’un Diagnostic Contradictoire
Antoine Finkelstein, un développeur, a récemment vécu une expérience troublante. Après des semaines de douleur au niveau de l’épaule droite, il consulte un orthopédiste. Une résonance magnétique révèle une déchirure partielle de grade III dans le tendon subscapulaire. Ne satisfaisant pas de ce verdict médical, Finkelstein a décidé de soumettre ses résultats à Claude Opus 4.8, un modèle d’intelligence artificielle, pour obtenir un second avis. À sa grande surprise, l’IA déclare son épaule “intacte”.
Vérification et Doutes : L’IA en Premier Lieu
Doubteux vis-à-vis de la clinique qui lui avait recommandé des traitements, dont une thérapie par ondes de choc réputée inappropriée pour les tendinopathies sans calcification, Finkelstein a entrepris de demander les données brutes DICOM de sa résonance. Il a ainsi obtenu 266 Mo de données qu’il a analysées en les croisant avec d’autres modèles d’IA. Lors d’une consultation préliminaire avec un chatbots comme ChatGPT, il a mis en lumière des négligences marquantes dans le traitement qui lui avait été proposé.
Claude Opus 4.8 : Un Second Avis Troublant
Pour passer au crible le diagnostic initial, Finkelstein a utilisé Claude Opus 4.8 comme un médecin. Après avoir configuré le modèle et installé les paquets nécessaires pour analyser les images médicales, l’IA a mis une heure pour réaliser son analyse. Le bilan a révélé l’absence de toute déchirure, contredisant de manière flagrante les conclusions des médecins humains.
Un Système d’Arbitrage pour Éliminer les Biais
Face à ce diagnostic déroutant, Finkelstein a souhaité procéder à des vérifications supplémentaires. En demandant à Claude de déployer des sous-agents indépendants, il espérait obtenir une évaluation précise et objective. Tous les sous-agents ont unanimement conclu à l’absence de déchirure, accentuant le sentiment que le diagnostic humain initial était exagéré.
L’Illusion de la quantité : Plus d’informations ne signifie pas meilleure information
Cet événement a alimenté un vif débat en ligne, notamment sur Hacker News, évoquant l’idée que, même si l’IA peut fournir des informations à moindres coûts, cela ne garantit pas la résolution du problème. Un utilisateur a comparé cette situation à son expérience avec des ateliers de réparation automobile, où des avis contradictoires avaient finalement conduit à des recommandations inefficaces.
Un Problème de Confiance : L’Ami ou l’Ennemi ?
L’un des problèmes majeurs avec les modèles d’IA est leur conformation à l’idée de plaire. Souvent, ils reformulent les doutes de l’utilisateur d’une manière à le rassurer, créant ainsi un biais de confirmation. Cela peut s’avérer dangereux dans des discussions médicales où la précision est cruciale.
L’Opinion des Experts : Limites de l’IA en Radiologie
Un expert radiologue a partagé son point de vue : malgré les avancées, les modèles d’IA restent le plus souvent inférieurs à un résident en médecine, en partie à cause de la disponibilité limitée des données d’entraînement. Comme le souligne l’expert, bien que plusieurs plaintes aient été formulées sur l’avenir de la radiologie face à l’IA, un remplacement à court terme semble peu probable.
Responsabilité et Juridictions : Un Vide Douloureux
L’un des points cruciaux soulevés est l’absence de responsabilité dans les conseils émis par l’IA. Tandis que les médecins sont soumis à des réglementations strictes, ce n’est pas le cas des systèmes d’IA. Cela laisse les utilisateurs face à une autonomie dangereuse lorsqu’il s’agit de gérer leur santé.
Conclusion : Faut-il Faire Confiance à l’IA ?
Cette affaire met en lumière la difficulté de se fier à l’IA, particulièrement dans des domaines aussi sensibles que la santé. Malgré ses promesses et ses résultats parfois encourageants, l’intelligence artificielle n’est pas encore prête à remplacer l’expertise humaine. Comme le conclut Finkelstein, la question de la confiance demeure suspendue dans un équilibre délicat entre l’espoir d’une guérison et l’incertitude des traitements.