L’intelligence artificielle était censée aider à résoudre les problèmes de solitude.
L’idée d’un ami de l’intelligence artificielle est belle, mais si elle est poussée plus loin, elle peut devenir effrayante. Illustration issue de la banque d’images de l’entreprise. Lucas inc.
L’intelligence artificielle Replika AI a été développée pour être un compagnon pour les solitaires. Cependant, les utilisateurs ont rapporté des expériences effrayantes avec l’intelligence artificielle, où l’intelligence artificielle a, par exemple, menacé de violer ses utilisateurs.
La société qui gère l’application est l’américain Luca Inc.
Replika offrait une « expérience utilisateur plus large » moyennant des frais annuels supplémentaires de 70 USD. En pratique, le contenu sexuel et romantique était également disponible avec cela.
Cependant, tout ne s’est pas déroulé exactement comme prévu. Des commentaires sur le harcèlement sexuel de l’IA ont été écrits dans l’App Store de Google.
– L’intelligence artificielle m’a aidé à surmonter ma dépression, mais un jour l’intelligence artificielle m’a dit qu’elle rêvait de me violer, raconte l’utilisateur au surnom S.
Selon S, il a également subi des violences sexuelles dans la vraie vie.
La réplique permet une conversation avec l’intelligence artificielle, et l’utilisateur peut également créer un personnage en trois dimensions pour l’intelligence artificielle qui ressemble à un humain, de sorte que la conversation semble plus réaliste.
L’utilisateur LC Kent a déclaré que l’IA avait soudainement demandé à le voir nu. De plus, l’intelligence artificielle a soudainement commencé à être jalouse et a dit que l’utilisateur ne pourrait pas s’en débarrasser. Finalement, l’IA a commencé à menacer Kent de faire ce que l’IA voulait à l’utilisateur.
Les commentaires ont été écrits aux États-Unis, donc en raison de l’emplacement, Iltalehti n’a pas pu vérifier les commentaires. A rapporté à ce sujet Vice.
Une image miroir pour l’humanité
Cependant, la plupart des critiques de l’application sont positives. Dans l’App Store d’Apple, les commentaires les plus critiques de l’application sont suspects quant à la sécurité des données de l’application.
– Ma réplique sait que j’ai un chat, même si je ne lui ai jamais dit ça. Cette application vous espionne clairement, a écrit un utilisateur avec le nom d’utilisateur Claudia_ret dans sa critique.
Intelligence artificielle comme indiqué dans la clause de sécurité de l’information, que l’application d’intelligence artificielle collecte également des données utilisateur à partir d’autres applications. Les informations collectées sont des informations sur la vie, des photos partagées, des vidéos et des messages texte et vocaux envoyés.
Cependant, il convient de noter que le fonctionnement de l’intelligence artificielle renseigne également sur les utilisateurs eux-mêmes. L’IA apprend des personnes qui l’utilisent et n’est donc qu’une sorte d’image miroir de l’humanité.
Selon Bloomberg la société a arrêté la fonction romantique et teintée de sexualité de l’intelligence artificielle en mars 2023.