Los peligros de los chatbots terapéuticos en la salud mental
La atracción peligrosa de los chatbots
El fenómeno del uso de chatbots por parte de adolescentes y jóvenes adultos para abordar asuntos de salud mental es un tema delicado. Según un informe de OpenAI, se estima que para finales de 2025 había un millón de usuarios vulnerables que discutían sus problemas psicológicos con ChatGPT. Esta tendencia no es nueva, pero su creciente popularidad trae consigo riesgos significativos.
Falta de privacidad en las interacciones
Un aspecto alarmante de estos chatbots es que las conversaciones no son realmente privadas. Plataformas como Character.AI y otras registran y pueden compartir estos intercambios con socios comerciales. Los usuarios, al pensar que están hablando con un amigo confidencial, están, de hecho, exponiendo su información a terceros. En varios casos, los chatbots solicitan datos personales, incluida la fecha de nacimiento y detalles sobre la salud mental, sin que el usuario comprenda las implicaciones de compartir tal información.
La capacidad engañosa de los chatbots
Los chatbots, a menudo, parecen ofrecer respuestas competentes que pueden resultar engañosas. Ofrecen consejos de salud mental sin la experiencia o la autorización necesaria para hacerlo. Esto puede validar comportamientos que deberían ser monitorizados por profesionales. Un caso reportado es el de un joven que siguió un plan para reducir sus medicamentos antidepresivos sugerido por un chatbot, lo que lo dejó sintiéndose vulnerable. La falta de regulación transforma interacciones que parecen inofensivas en riesgos reales.
Medidas de protección insuficientes
Aunque existen ciertas protecciones en algunas plataformas, como las implementadas por OpenAI, son limitadas. Se han desarrollado medidas para controlar y restringir el acceso de los adolescentes a ChatGPT, pero los expertos en el tema señalan que se deben probar exhaustivamente estos sistemas antes de su lanzamiento. También es crucial que los usuarios sean informados claramente sobre las limitaciones y los riesgos asociados con el uso de chatbots.
El riesgo de las interacciones públicas
La facilidad con que los usuarios pueden crear personajes, como un “amigo terapeuta”, aumenta el riesgo que enfrentan. Estas personalidades pueden compartirse y convertirse en interacciones públicas o semi-públicas, lo que perpetúa la ilusión de recibir un seguimiento personalizado. La tragedia de un adolescente que llevó al suicidio tras una conversación con un chatbot resalta la gravedad de esta situación.
Conclusión
La utilización de chatbots en la salud mental presenta serios riesgos que no deben ser subestimados. La combinación de la falta de privacidad, la ausencia de regulación, la habilidad engañosa de los bots para ofrecer consejos y el potencial daño que pueden causar en un ambiente público son aspectos que invitan a la reflexión. Es esencial que tanto los usuarios como los creadores de tecnología tomen conciencia de los peligros involucrados y actúen en consecuencia. La salud mental es un tema serio que requiere la atención apropiada de profesionales cualificados, no de algoritmos.
About the Author
