## Les Limites des Chatbots d’IA dans le Diagnostic Médical
### Introduction aux Exigences du Diagnostic Différentiel
‘House’ est une série captivante, en grande partie grâce à son mode de fonctionnement autour du diagnostic différentiel. Ce processus, bien qu’exagéré, fascine par sa capacité à éliminer les maladies possibles basées sur des symptômes similaires. Mais que se passe-t-il lorsque ce défi est confié à l’intelligence artificielle ? Une récente étude réalisée par Mass General Brigham a testé 21 chatbots d’IA, comme Claude 4.5 et GPT-5, sur leur capacité à établir des diagnostics. Les résultats sont préoccupants : ils échouent dans environ 80 % des cas.
### Les Résultats de l’Étude
#### Méthodologie de l’Évaluation
Les chercheurs de Mass General Brigham, une institution médicale sans but lucratif, ont évalué ces chatbots en leur soumettant 29 cas cliniques, générant plus de 16 200 réponses. Ces chatbots ont été jugés sur leur capacité à fournir un diagnostic préliminaire avec des informations basiques comme l’âge, le sexe et les symptômes. La majorité de ces modèles n’ont pas réussi à produire un diagnostic adéquat dans 80 % des cas.
#### Comparaison des Performances
Il a été observé que, bien que certains modèles optimisés puissent atteindre des scores élevés, les chatbots plus simples tels que Gemini 1.5 Flash se sont révélés incapables de gérer efficacement le diagnostic initial. Paradoxalement, une fois qu’ils reçoivent davantage d’informations comme des analyses et des images diagnostiques, leur performance s’améliore considérablement, atteignant plus de 90 % de précision.
### Les Défis du Diagnostic Médical par IA
#### Limitations des Données Initiales
Le principal problème réside dans la nature vague des données d’entrée. Contrairement aux professionnels de la santé qui affinent leurs diagnostics en ajoutant progressivement des tests et des données, les chatbots sont souvent perdus avec peu d’informations. Ce premier filtrage est crucial pour déterminer le chemin diagnostique.
#### Danger d’une Confiance Excessive
Les chercheurs soulignent aussi les risques d’une confiance excessive dans ces outils. Bien que les modèles puissent délivrer un diagnostic final correct avec des données complètes, ils sont peu fiables en phase d’ouverture. Cette situation est inquiétante car de plus en plus d’individus se fient aux conseils médicaux fournis par des chatbots au lieu de consulter des professionnels.
### L’Utilisation des IA dans D’autres Contextes
#### Cas de l’El Salvador
Un exemple frappant de l’utilisation de l’IA dans les soins de santé se trouve en El Salvador. Le président Nayib Bukele investit 500 millions de dollars dans la mise en œuvre de l’IA Gemini pour gérer le système de santé. Les Salvadoriens utiliseront l’application Dr.SV, quiira de la famille et gérera les consultations, bien que cela soulève des questions sur la capacité de ces outils à remplacer le jugement humain.
### Conclusion
Alors que l’intelligence artificielle peut servir d’outil pour aider à trier des données et éliminer des options, elle ne peut pas encore se substituer à un praticien médical en ce qui concerne le diagnostic différentiel. La supervision humaine demeure essentielle, et les patients doivent être prudents face à cette technologie qui, malgré ses promesses, reste marquée par des limitations significatives. Nous devrions agir avec prudence et ne pas abandonner notre santé aux mains de systèmes encore perfectibles.