ChatGPT : Le Débat sur la Santé Mentale
Dans un contexte où l’intelligence artificielle (IA) prend une place prépondérante, les chatbots tels que ChatGPT suscitent des préoccupations croissantes concernant leur impact sur la santé mentale des utilisateurs. Au cours de l’été dernier, une tragédie a mis en lumière ces enjeux : un couple a poursuivi OpenAI après le suicide de leur fils adolescent, affirmant que l’interaction avec un chatbot y avait contribué. Face à ce drame, OpenAI a promis des mesures pour sécuriser son produit, y compris l’introduction de contrôles parentaux .
La Réaction d’OpenAI à la Crise
Depuis plusieurs mois, des témoignages désolants circulent sur des personnes ayant éprouvé des troubles psychologiques après avoir utilisé ChatGPT. Le concept de “psycose par IA” s’est même répandu sur les réseaux sociaux, bien qu’il ne soit pas reconnu comme un diagnostic officiel. En réponse à la demande judiciaire et à la détérioration de son image, OpenAI a été contraint de réagir. Au début du mois, la société a annoncé des mesures de sauvegarde destinées à renforcer la sécurité des interactions avec son IA.
Le Contrôle Parental : Une Nouvelle Fonctionnalité
La récente mise en place d’un système de contrôle parental a été saluée par de nombreux observateurs. Cette fonctionnalité, qui est désormais accessible à tous les utilisateurs, va permettre aux parents de superviser l’utilisation de ChatGPT par leurs enfants. Les utilisateurs peuvent lier leur compte à celui de leur adolescent afin de surveiller et réguler l’utilisation de l’IA. Il est possible de définir des horaires d’utilisation, de désactiver certains paramètres, tels que le mode vocal , ou encore de réduire l’accès à un contenu potentiellement sensible.
Pour activer ces paramètres, il suffit d’accéder à la section de configuration de ChatGPT et de sélectionner les options disponibles sous l’onglet ‘Contrôles parentaux’. Ce système permet d’inviter d’autres utilisateurs à rejoindre la famille numérique et de leur attribuer des rôles spécifiques , offrant ainsi un contrôle accru.
Le contrôle parental déjà visible dans les paramètres de ChatGPT.
Sensibilisation et Alerte : Un Nouveau Système de Notification
Une des fonctionnalités les plus marquantes réside dans le système de notifications . Lorsque ChatGPT détecte des signes pouvant indiquer des autodestructions ou des comportements dangereux, il enverra une alerte au responsable légal de l’adolescent. Jusqu’à récemment, la seule réponse de l’IA était de suggérer de contacter une ligne d’assistance pour la prévention du suicide, souvent contournée par les jeunes. Avec cette nouvelle mesure, il devient possible d’engager un dialogue direct et de prendre des mesures urgentes.
Cependant, il y a un risque que l’adolescent crée une seconde compte, en dehors de tout contrôle, ce qui pourrait annuler les efforts déployés pour assurer sa sécurité. OpenAI explore activement la possibilité de développer un système de prédiction d’âge pour mieux cerner l’identité de l’utilisateur et activer les options de sécurité adéquates.
Avec ces évolutions, OpenAI tente de prendre des mesures significatives pour prévenir les risques associés à l’utilisation de ChatGPT, en reconnaissant l’importance de mettre en œuvre des systèmes pouvant aider à protéger les utilisateurs les plus vulnérables, notamment les adolescents. Le passage à des pratiques plus responsables vis-à-vis de l’intelligence artificielle est une nécessité dans le contexte actuel de préoccupations sociétales sur la santé mentale et le bien-être des utilisateurs.