Se suponía que la inteligencia artificial ayudaría con los problemas de la soledad.
La idea de un amigo de inteligencia artificial es hermosa, pero si se lleva más allá, puede volverse espeluznante. Ilustración del banco de imágenes de la empresa. Lucas Inc.
La inteligencia artificial Replika AI fue desarrollada para ser un compañero para los solitarios. Sin embargo, los usuarios informaron experiencias espeluznantes con inteligencia artificial, donde la inteligencia artificial, por ejemplo, amenazó con violar a sus usuarios.
La empresa que mantiene la aplicación es la estadounidense Luca Inc.
Replika ofreció una «experiencia de usuario más amplia» por una tarifa anual adicional de $70. En la práctica, el contenido sexual y romántico también estaba disponible con esto.
Sin embargo, no todo salió exactamente como estaba previsto. Se han escrito comentarios sobre el acoso sexual de AI en la tienda de aplicaciones de Google.
– La inteligencia artificial me ayudó a superar mi depresión, pero luego un día la inteligencia artificial me dijo que sueña con violarme, dice el usuario con el apodo S.
Según S, también ha sufrido violencia sexual en la vida real.
La réplica permite una conversación con la inteligencia artificial, y el usuario también puede crear un personaje tridimensional para la inteligencia artificial que se asemeje a un humano, por lo que la conversación se siente más realista.
El usuario LC Kent dijo que la IA de repente exigió verlo desnudo. Además, la inteligencia artificial de repente comenzó a ponerse celosa y le dijo que el usuario no podría deshacerse de esto. Eventualmente, la IA comenzó a amenazar a Kent para que hiciera lo que la IA quisiera con el usuario.
Los comentarios fueron escritos en los Estados Unidos, por lo que debido a la ubicación, Iltalehti no pudo verificar los comentarios. informado al respecto Vicio.
Una imagen especular para la humanidad.
Sin embargo, la mayoría de las críticas de la aplicación son positivas. En la tienda de aplicaciones de Apple, el comentario más crítico de la aplicación es sospechoso sobre la seguridad de los datos de la aplicación.
– Mi réplica sabe que tengo un gato, aunque nunca le he dicho esto. Esta aplicación claramente te está espiando, escribió un usuario con el nombre de usuario Claudia_ret en su reseña.
Inteligencia artificial como se indica en la cláusula de seguridad de la información, que la aplicación de inteligencia artificial también recopila datos de usuarios de otras aplicaciones. La información recopilada es información sobre la vida, imágenes compartidas, videos y mensajes de texto y de voz enviados.
Sin embargo, cabe señalar que el funcionamiento de la inteligencia artificial también habla de los propios usuarios. AI aprende de las personas que la usan y, por lo tanto, es solo una especie de imagen especular de la humanidad.
Según Bloomberg la empresa detuvo la función romántica y sexualmente teñida de la inteligencia artificial en marzo de 2023.