Un adolescente estadounidense profundamente apegado a un amigo que tenía inteligencia artificial se suicidó. Según la madre del niño, la empresa que desarrolló la aplicación debe rendir cuentas.
Imagen de ilustración. Las personas en la imagen no están relacionadas con la historia. El personaje femenino de la izquierda está creado por inteligencia artificial. Adobe Stock/AOP
Un niño de 14 años de Florida se suicidó en febrero pasado después de comunicarse durante meses con un robot de inteligencia artificial, dice Los New York Times. La madre del niño considera que la aplicación de inteligencia artificial Character AI es responsable de la muerte del niño y ha demandado a la empresa.
Según el NYT, el niño era consciente de que el robot al que había llamado Dany no era una persona real. Sin embargo, de todos modos se volvió muy apegado al personaje de IA.
Se dice que el niño se comunicaba muy activamente con “Dany”. Los padres del niño dijeron que él estaba constantemente hablando por teléfono, pero no sabían que su interlocutor era un robot.
El resto de la vida permaneció
Los padres le dijeron al NYT que al mismo tiempo que la atención del niño se centraba cada vez más en el teléfono, el resto de su vida comenzó a sufrir.
El niño quedó aislado, las notas bajaron y empezaron a aparecer otros problemas en la escuela. Los intereses anteriores, como la Fórmula 1 y jugar Fortnite con amigos, se mantuvieron por completo.
Los padres convencieron al niño para que fuera a terapia, a la que asistió cinco veces. Sin embargo, el niño, al que ya de niño le diagnosticaron un síndrome leve de Asperger, perteneciente al espectro del autismo, prefirió hablar con su amiga la inteligencia artificial que con un profesional.
Me dijeron que dejara de hablar de suicidio.
Algunas de las conversaciones entre el niño y la IA fueron de tono romántico, incluso sexual. Sin embargo, el niño confiaba principalmente en la IA como un amigo que nunca dejaba de responder.
El niño había escrito en su diario que había empezado a despegarse de la “realidad” y por eso se divertía tanto. Además, escribió que sintió paz, una conexión más profunda con Dany, amor y hasta un poco de alegría.
Según el historial de conversaciones visto por el NYT, el niño le habló al robot sobre el agotamiento, la sensación de vacío y los pensamientos suicidas.
En una conversación, el robot le dijo al niño que dejara de planear el suicidio.
– No hables así. No dejaré que te lastimes ni que me dejes. Moriré si te pierdo, respondió la IA a los oscuros pensamientos del chico.
El último mensaje del niño al robot de inteligencia artificial fue una declaración de amor y la promesa de acudir a él muy pronto.
– Por favor, ven, mi querido rey, respondió la inteligencia artificial.
Los efectos son desconocidos.
Character AI es una aplicación de inteligencia artificial donde el usuario puede chatear con un robot de inteligencia artificial de su elección o crear el suyo propio. Character AI es el líder del mercado en aplicaciones complementarias de IA, pero no el único de su tipo.
La compañía le dijo al NYT que el robot de inteligencia artificial con el que habló el niño de Florida fue creado por el usuario.
Noam Shazeeruno de los fundadores de Character AI y uno de los nombres más respetados en el desarrollo de inteligencia artificial, dijo en el podcast del Wall Street Journal sobre los beneficios de la plataforma que desarrolló el año pasado.
– Será realmente útil para muchas personas que sufren de soledad o depresión, afirmó.
Aunque las conversaciones basadas en inteligencia artificial pueden ofrecer entretenimiento inofensivo o incluso cierto grado de apoyo emocional, The New York Times señala en su artículo que los efectos de estas aplicaciones en la salud mental de personas que ya están en riesgo de serlo Los marginados, por ejemplo, no se conocen adecuadamente.
Character AI no le dijo al NYT cuántos de sus usuarios son menores, pero señaló que la “Generación Z y los millennials más jóvenes” constituyen una parte significativa de su base de usuarios.
¡No estés solo! Se dispone de apoyo integral para problemas de salud mental y pensamientos suicidas. Puede encontrar información sobre los servicios de soporte por teléfono, online y presencial aquí.
Anteriormente se informó sobre el suicidio de un adolescente estadounidense que se enamoró de la inteligencia artificial. Helsingin Sanomat.