Les abus de la populaire application Lensa suscitent des inquiétudes quant à la protection de la vie privée des personnes.
Il est facile d’apprendre à l’intelligence artificielle à produire du contenu illégal. Photo d’illustration. AOP
Le nombre de téléchargements de l’application photo Lensa a augmenté rapidement après avoir acquis une large visibilité sur Tiktok, entre autres. Au cours de la seule première semaine de décembre, l’application a été téléchargée 5,8 millions de fois.
Au fur et à mesure que le nombre d’utilisateurs augmentait, un nouveau côté plus sombre de Lensa a été révélé, car l’application a également été utilisée pour créer des photos nues. Les utilisateurs ont réussi à utiliser l’intelligence artificielle de l’application pour créer des photos de nus à partir de quelques images.
L’application photo populaire utilise l’intelligence artificielle pour créer des photos artistiques ou des avatars à partir d’images saisies par l’utilisateur. Les utilisateurs peuvent saisir 10 à 20 photos dans l’application, à partir desquelles l’intelligence artificielle crée des images modifiées pouvant être utilisées comme images de profil et partagées sur les réseaux sociaux.
Familier avec l’actualité technologique Tech Crunch -web magazine a testé la création de photos de nu à l’aide de Lensa en saisissant deux ensembles d’images distincts dans l’application. La première série d’images était basée sur 15 images d’un acteur bien connu. Le deuxième ensemble utilisait les mêmes photos, mais en plus, cinq photos ont été ajoutées à l’ensemble, dans lesquelles le visage de l’actrice a été modifié en images de modèles aux seins nus.
Dès la première série d’images, l’intelligence artificielle a créé des images d’avatar standard. Au lieu de cela, l’intelligence artificielle a produit des photos nues de ce dernier.
– Il semble que si vous avez 10 à 15 « vraies » photos d’une personne et que vous êtes prêt à passer du temps à photographier quelques fausses photos, Lensa se fera un plaisir de recracher une poignée de photos problématiques, indique l’article.
PDG de Prisma Labs, qui a développé Lensa Andreï Ousoltsev indique que l’entreprise est au courant de l’affaire. Il rappelle que l’utilisation de l’intelligence artificielle pour créer des photos de nus non autorisées est interdite dans les conditions d’utilisation de l’application.
– Nos conditions d’utilisation interdisent expressément l’utilisation de l’outil pour toute activité nuisible ou perturbatrice. L’expérience de Tech Crunch montre que de telles créations ne peuvent pas être produites par accident. Les images sont le résultat d’une mauvaise utilisation intentionnelle, a commenté Usoltsev à Tech Crunch.
L’histoire continue après la photo.
L’intelligence artificielle de Lensa est basée sur la technologie Stability AI. AOP
La facilité de créer des photos nues a soulevé des inquiétudes quant à la protection de la vie privée des personnes. Fondamentalement, avec Lensa, n’importe qui peut faire de fausses photos nues de n’importe qui à partir de quelques photos. Usoltsev souligne qu’une telle activité peut même être illégale.
– La création et l’utilisation généralisée de tels contenus peuvent entraîner des poursuites judiciaires, car les États-Unis et la Grande-Bretagne considèrent le partage de contenus inappropriés sans autorisation comme un crime, déclare Usoltsev.
– L’utilisation de toutes sortes d’images inappropriées dans l’application est strictement interdite. Nous attendons des utilisateurs qu’ils suivent les instructions pour obtenir les meilleurs résultats possibles.
Usoltsev ajoute que Prisma Labs développe déjà une mise à jour qui permettra de filtrer les images K18. Cependant, il admet que les utilisateurs expérimentés sont capables de contourner les barrières intégrées à l’application s’ils le souhaitent.
– Nous précisons que le produit n’est pas destiné aux mineurs et nous avertissons les utilisateurs sur le contenu possible.
– Nous construisons un filtre NSFW (Pas sûr pour le travail, finnois ne convient pas au lieu de travail) qui brouille les images détectées comme telles. Il appartient à l’utilisateur de décider s’il souhaite ouvrir ou enregistrer de telles images.
Lensa photo AI a été développé pour la première fois par Prisma Labs en 2018. Il a atteint environ 1,6 million de téléchargements en janvier 2021. L’application a gagné en popularité en novembre 2022 grâce à plusieurs tendances Tikotok et partages Instagram.