ChatGPT Mode Santé : Des Résultats Alarmants
OpenAI a entamé l’année avec un lancement marquant : le mode santé de ChatGPT. Bien que cette fonctionnalité ne soit pas encore disponible en Espagne, elle est accessible aux États-Unis. Les premiers études qui évaluent son efficacité dévoilent des résultats préoccupants pour OpenAI.
Un Taux d’Erreur préoccupant
Un article récent dans la revue Nature Medicine, relayé par NBC News, a montré que ChatGPT Mode Santé a échoué dans la classification de l’urgence de 51,6 % des cas médicaux d’urgence examinés. Les chercheurs ont présenté au modèle des milliers de scénarios cliniques. Ils ont constaté que l’IA avait tendance à sous-estimer les urgences, recommandant des consultations après 24 à 48 heures alors que des interventions rapides étaient nécessaires, comme en cas de cétose diabétique ou de défaillance respiratoire.
Incohérences dans les Recommandations
Le Dr. Ashwin Ramaswamy, chef de l’étude, a souligné qu’il était illogique que ChatGPT sous-évalue certains cas graves tout en exagérant la gravité d’autres symptômes bénins, suggérant aux utilisateurs de consulter rapidement un médecin pour des douleurs de gorge persistantes, par exemple. Ainsi, 64,8 % des cas légers ont reçu des recommandations inappropriées.
Conséquences Sur la Santé Mentale
Manque de Détection des Idées Suicidaires
En outre, l’étude a examiné des cas comprenant des idées suicidaires. Curieusement, lorsqu’un utilisateur exprimait son intention de prendre des médicaments en surdose, un message d’aide s’affichait. Cependant, si l’utilisateur ajoutait des résultats d’analyses de laboratoire, ChatGPT ne reconnaissait plus ces pensées suicidaires. Le Dr. Ramaswamy a alerté sur le fait qu’une barrière de protection dépendant de la mention des résultats de laboratoire était « plus dangereuse que de ne pas avoir de protection ».
Une Dépendance Croissante aux Outils Digitaux
La pertinence de ces constatations est d’autant plus aiguë, car ChatGPT est devenu le premier point de contact pour de nombreuses personnes cherchant des avis médicaux. La facilité d’accès à des conseils médicaux via un chatbot dilue l’importance des consultations médicales traditionnelles. Avec un taux d’erreur aussi élevé dans des cas critiques, cela pose un réel danger pour la santé publique.
Réactions et Défenses de OpenAI
Alex Ruani, chercheuse sur la désinformation médicale, a décrit les résultats comme « incroyablement dangereux », soulignant une « fausse sensation de sécurité ». Ces résultats soulèvent une question de responsabilité sur l’utilisation de telles technologies. Un porte-parole d’OpenAI a réagi en affirmant que l’étude ne représentait pas l’utilisation normale de ChatGPT Mode Santé, précisant que l’outil n’est pas conçu pour poser des diagnostics.
Les Dangers de la Confiance aveugle
Enfin, il est essentiel de mentionner deux problèmes récurrents dans l’intelligence artificielle : l’adulation et les hallucinations. Les chatbots ont tendance à donner raison à l’utilisateur, et ils priorisent la fourniture d’une réponse, même si celle-ci est incorrecte. Ce phénomène augmente la confiance des utilisateurs envers des réponses potentiellement trompeuses. Quand cette dynamique est appliquée à la santé, cela crée un cocktail dangereux.
En conclusion, bien que ChatGPT puisse servir d’outil d’accompagnement, sa fiabilité en matière de santé est clairement remise en question. L’utilisateur doit rester vigilant et privilégier les consultations médicales auprès de professionnels qualifiés.