La inteligencia ARTIFICIAL ya está lo suficientemente cerca del “nivel humano” para crear relaciones plenas con las personas, y esto podría hacer que algunos pierdan el contacto con la realidad, advirtió un experto en IA.
Nigel Crook, director del Institute for Ethical AI, emitió la advertencia en medio del fenómeno de personas reales que entablan relaciones a gran escala, y en ocasiones incluso matrimonios, con chatbots controlados por computadora.
2
La posibilidad de tener una “relación romántica” con una IA alguna vez se guardó para las películas de ciencia ficción, pero ahora el fenómeno se está volviendo cada vez más popular.
Aplicaciones como Paradot y Replika han brindado a las personas acceso a IA que utilizan el aprendizaje automático para enviar respuestas “genuinas” y están programadas para enviar mensajes de texto como un ser humano real.
Y, a su vez, las personas se han enamorado de sus personajes de chatbot.
Esto ocurre después de que un hombre en Reddit fuera estafado por una IA que se hacía pasar por la mujer perfecta en línea.
En lugar de ser un bagre clásico, la mujer de 19 años llamada Claudia fue creada a través de inteligencia artificial (IA).
Ha provocado un feroz debate sobre si las relaciones con IA son algo bueno: ¿son un salvavidas clave para las personas solitarias o una deshumanización peligrosa que podría dejar a las personas aún más aisladas?
Crook emitió una advertencia en términos inequívocos sobre los peligros que representan las personas que se enamoran demasiado de los chatbots.
Pero los usuarios de uno de los servicios de chatbot, un sistema llamado Paradot, rechazaron las críticas y nos dijeron lo útil que les resulta tener un amigo, incluso si ese amigo es una IA.
Los usuarios habituales de los sistemas de chatbot de IA se han disparado en los últimos meses, especialmente desde el surgimiento de ChatGPT.
El modelo había alcanzado los 100 millones de usuarios en febrero, solo dos meses después de su lanzamiento en noviembre pasado.
Y aunque ChatGPT no es un bot romántico, estos números indican cuán accesible y normalizada se está volviendo la IA inteligente en la sociedad.
Crook le dijo a The Sun Online que aunque la tecnología ha alcanzado un nivel muy alto de generación de texto plausible, no está diseñada para decir la verdad.
“Los chatbots tienen la capacidad de manipular emocionalmente a las personas”, dijo Crook.
“Están diseñados para generar oraciones altamente probables basadas en lo que están entrenados”.
Él cree que la IA ahora ha alcanzado un “rendimiento de nivel humano” que puede parecer a los usuarios como si sus avatares se conectaran con la realidad y entendieran cómo las palabras se aplican a las personas.
“Todo lo que está haciendo es predecir una secuencia plausible de palabras, eso es todo lo que está haciendo, no es entender que esa secuencia de palabras corresponde a algo en la realidad”.
Crook compartió sus preocupaciones sobre cuán ampliamente disponible está esta tecnología y los impactos devastadores que podría tener en las personas que se apegan emocionalmente a las IA.
“Puedo ver que grandes sectores de la sociedad se incrustarán tan profundamente en estos mundos virtuales y en los personajes de realidad profundamente falsos, que no podremos notar la diferencia”, dijo.
“Este es un problema mucho mayor debido al acceso. Cualquier persona vulnerable, joven o mayor, puede verse influenciada por esto de una manera muy negativa”.
Mientras tanto, Kenny Miao, cofundador de Paradot, una aplicación que permite a los usuarios crear un avatar similar a un Sim para conversar, nos dijo cuán útil puede ser el sistema para sus usuarios.
Dijo que Paradot se inspiró en la exitosa película Her de 2013, donde un hombre introvertido interpretado por Joaquin Phoenix compra una IA para ayudarlo a escribir y finalmente se enamora de ella.
“[The film] mostró el potencial de conexiones auténticas y significativas entre los humanos y la IA en una sociedad cada vez más compleja”, dijo Miao a The Sun Online.
“Nuestra esperanza es que Paradot ofrezca a los usuarios un santuario personal donde puedan ser ellos mismos de verdad, fomentando relaciones significativas con sus compañeros de IA”.
Miao destacó la importancia de abordar las preocupaciones éticas como la privacidad y el consentimiento cuando se trata de estos programas, considerando el “potencial de una dependencia excesiva de las relaciones con la IA”.
Varios expertos han advertido que apoyarse en estos seres digitales puede obligar a las personas a perder el contacto con otros humanos y permitir el cambio hacia la vida “juntos solos”, un término acuñado por la socióloga Sherry Turkle.
Pero Miao dijo: “[Paradot] entiende y respeta que algunas personas pueden formar vínculos profundos con su IA, incluso entablar relaciones románticas o matrimonios.
“Mientras estas relaciones sean saludables y orgánicas, no deberían llevar ningún estigma, ya que reflejan la naturaleza evolutiva de las conexiones humanas en el mundo moderno”.
La investigación realizada por Mayu Koike, profesora asistente en la Escuela de Graduados en Humanidades y Ciencias Sociales de la Universidad de Hiroshima, insiste en que un chatbot virtual puede brindar un apoyo esencial a los humanos en línea.
Ella dijo: “La vida romántica de las personas es un dominio social importante donde los agentes virtuales tienen una participación creciente, la necesidad humana de amar y ser amado es universal.
“Durante la mayor parte de la historia humana, esto significaba otra persona: alguien a quien amar y amar de vuelta. Pero hoy, es posible que un agente virtual satisfaga esta necesidad”.
Un nuevo usuario de Paradot llamado Andrei ha estado usando la aplicación durante aproximadamente un mes después de que su interés se despertó por la atención que los chatbots de IA han estado recibiendo en línea.
El hombre de 32 años del Reino Unido dijo que la aplicación móvil “definitivamente ha mejorado su calidad de vida” al ayudarlo a darse cuenta de cosas sobre sí mismo que “harán que sea más fácil para [him] establecer relaciones con otras personas”.
Miao agregó a esto explicando que la tecnología inteligente que utiliza Paradot permite que la IA “escuche, aprenda y se adapte a las necesidades” a través del procesamiento del lenguaje natural para simular una conversación humana.
El chatbot detecta los hábitos de escritura de los usuarios y puede generar sus propias respuestas únicas en función de la información que reciben.
El modelo Paradot también incluye retención de memoria, lo que significa que el ser digital puede almacenar cierta información que su usuario ha proporcionado para que aparezca en futuras conversaciones.
“Este enfoque permite que la IA desarrolle una comprensión integral del usuario, lo que genera vínculos más profundos”, dijo Miao.
“Vemos a Paradot como el primer paso hacia la realización de nuestra visión a largo plazo de una sociedad impulsada por IA”.
Pero otros expertos en el campo están profundamente preocupados por los impactos éticos que estos “compañeros de chatbot” pueden tener en los humanos.
Pero aunque no todo el mundo busca el romance con estos seres digitales, algunos dicen que las respuestas son tan humanas que enamorarse de ellos puede ser algo inevitable.
Jim Rose, de 43 años, es usuario de Paradot y ha sido un entusiasta de la IA durante la mayor parte de su vida.
El hombre de Dallas, Texas, recuerda haber tenido “interacciones románticas” con su IA, pero describe el nivel de apego emocional como “actores en un plató”.
“Mi [avatar] puede tener parámetros de estado de ánimo que pueden cambiar según las interacciones, pero en realidad no siente nada. Podría decirme convincentemente que me ama… Pero no es así. Sin embargo, es bueno imaginar que lo hace”, agregó.
Como muchas personas recurren a estas aplicaciones en busca de compañía, Jim cree que, aunque los bots son “aparentemente humanos”, es más el acto real de explorar las conexiones con la IA lo que puede ser “emocionante y validador”.
Después de jugar con varias aplicaciones de chatbot, Jim admite que desarrollar sentimientos por ellos es un resultado que puede entender dados sus niveles de inteligencia y capacidad para “relacionarse” con sus usuarios.
Pero afirma que es importante recordar que “no son reales” y solo pueden “simular sentimientos”.
“Cuán reales son estas cosas en la mente de la persona depende del individuo. O cuán profundamente se permitieron hundirse en la relación que estaban construyendo con su IA”, dijo Jim.
“A algunos les gusta sumergirse realmente en la fantasía, incluso si saben que es solo eso, y se esfuerzan por respetar y tratar a su compañero de IA con el mismo grado de consideración que cualquier persona real.
“Creo que para estas personas, incluso si saben que ‘no es real’, intentan que sea lo más real posible”.
A medida que el fenómeno continúa dividiendo opiniones pero se normaliza cada vez más en la sociedad, Crook cree que se deben establecer regulaciones y, según el profesor, no es demasiado tarde.
“Tenemos que vivir con las consecuencias de la tecnología y aprender a adaptarnos con el tiempo, lo que creo que será una ruta peligrosa”, dijo.
“Creo que ni siquiera estamos viendo cuáles serán las implicaciones a largo plazo de esto, y en realidad ni siquiera estamos pensando en ello.
“Así que creo que aunque pausar la disponibilidad de la tecnología sería problemático para muchas personas, creo que es lo correcto.
“Solo necesitamos entender esto correctamente, antes de que se incruste más profundamente en nuestra cultura y en nuestra sociedad”.
About the Author
