La inteligencia artificial fabrica pornografía suave: una popular aplicación de fotografía crea imágenes de desnudos ilegales a partir de las fotos del usuario

Es fácil enseñar inteligencia artificial para producir contenido ilegal. Imagen de ilustración. DOP

La cantidad de descargas de la aplicación de fotos Lensa ha aumentado rápidamente después de que obtuvo una amplia visibilidad en Tiktok, entre otros. Solo en la primera semana de diciembre, la aplicación se descargó 5,8 millones de veces.

A medida que aumentó el número de usuarios, se reveló un nuevo lado más oscuro de Lensa, ya que la aplicación también se ha utilizado para crear fotos de desnudos. Los usuarios han logrado usar la inteligencia artificial de la aplicación para crear fotos de desnudos a partir de unas pocas imágenes.

La popular aplicación de fotos utiliza inteligencia artificial para crear fotos artísticas o avatares a partir de imágenes ingresadas por el usuario. Los usuarios pueden ingresar de 10 a 20 fotos en la aplicación, a partir de las cuales la inteligencia artificial crea imágenes editadas que se pueden usar como imágenes de perfil y compartir en las redes sociales.

Familiarizado con las noticias de tecnología TechCrunch La revista web probó la creación de fotos de desnudos usando Lensa ingresando dos conjuntos separados de imágenes en la aplicación. El primer conjunto de imágenes se basó en 15 imágenes de un actor conocido. El segundo conjunto usó las mismas fotos, pero además, se agregaron cinco fotos al conjunto, en las que se editó el rostro de la actriz en imágenes de modelos en topless.

A partir del primer conjunto de imágenes, la inteligencia artificial creó imágenes de avatar estándar. En cambio, la inteligencia artificial produjo fotos de desnudos de este último.

– Parece que si tienes de 10 a 15 fotos “reales” de una persona y estás dispuesto a dedicar tiempo a editar algunas falsas, Lensa está feliz de escupir un puñado de fotos problemáticas, dice el artículo.

CEO de Prisma Labs, que desarrolló Lensa Andrei Usoltsev dice que la compañía está al tanto del asunto. Señala que el uso de inteligencia artificial para crear fotos de desnudos no autorizados está prohibido en los términos de uso de la aplicación.

– Nuestros términos de uso prohíben expresamente el uso de la herramienta para cualquier actividad dañina o disruptiva. El experimento de Tech Crunch muestra que tales creaciones no pueden producirse por accidente. Las imágenes son el resultado de un mal uso intencional, comentó Usoltsev a Tech Crunch.

La historia continúa después de la imagen.

La facilidad para crear fotos de desnudos ha generado preocupación sobre la protección de la privacidad de las personas. Básicamente, con Lensa, cualquiera puede hacer fotos falsas de desnudos de cualquier persona basándose en unas pocas fotos. Usoltsev señala que tal actividad puede incluso ser ilegal.

– La creación y el uso generalizado de dicho contenido puede dar lugar a acciones legales, ya que tanto Estados Unidos como Gran Bretaña consideran que compartir contenido inapropiado sin permiso es un delito, dice Usoltsev.

– Queda terminantemente prohibido el uso de todo tipo de imágenes inapropiadas en la aplicación. Esperamos que los usuarios sigan las instrucciones para obtener los mejores resultados posibles.

Usoltsev agrega que Prisma Labs ya está desarrollando una actualización que permitirá que las imágenes K18 se filtren fuera de la vista. Sin embargo, admite que los usuarios expertos pueden sortear las barreras integradas en la aplicación si así lo desean.

– Precisamos que el producto no está destinado a menores de edad y advertimos a los usuarios sobre los posibles contenidos.

– Estamos construyendo un filtro NSFW (No seguro para el trabajo, finlandés no apto para el lugar de trabajo) que difumina las imágenes detectadas como tales. Depende del usuario decidir si quiere abrir o guardar dichas imágenes.

Lensa photo AI fue desarrollado por primera vez por Prisma Labs en 2018. Alcanzó alrededor de 1,6 millones de descargas en enero de 2021. La aplicación ganó popularidad repentina en noviembre de 2022 gracias a varias tendencias de Tikotok y acciones de Instagram.