Porno de venganza, sextorsión y deepnude, estas son las formas de violencia digital contra las mujeres que se hacen más accesibles con la inteligencia artificial. La creación de contenidos pornográficos falsos, por ejemplo, ha encontrado en la IA una herramienta de producción rápida y peligrosa. ¿Cuáles son los límites de aplicación de la IA y cómo utilizarla contra la violencia de género? Los chatbots y las aplicaciones, los manuales y los servicios en línea para la protección de datos son sólo las herramientas iniciales para construir una mejor práctica a largo plazo.
Violencia cibernética
Algunos fenómenos de ciberviolencia aparecen como un delito, otros se remontan a ella y es aquí donde la IA encuentra su primer obstáculo. El porno de venganza es un delito desde 2009 gracias al artículo 612 ter del Código Penal italiano. La difusión no consentida de material íntimo, online y en grupos de Telegram/Whatsapp, está creciendo y afecta también a menores. Además, el contenido explícito también puede utilizarse con fines de extorsión, de ahí el nombre de sextorsión.
La asociación sin ánimo de lucro Permetto Negato, especializada en apoyar a las víctimas de pornografía no consentida, denuncia el aumento de los casos en Telegram: 147 grupos y canales monitorizados, 16.883.722 usuarios y más de 6.704.050 contenidos compartidos. El último análisis de finales de 2023 incluyó un foco en 7 grupos, con 331.837 mensajes involucrados. La demografía es predominantemente masculina (11-60 años). En los primeros once meses de 2023, la Policía Postal registró 259 casos (183 denunciados por mujeres). ¿Cómo defenderse? El Garante de Privacidad proporciona un manual sobre seguridad y ofrece la posibilidad de realizar un informe preventivo online. En febrero, con motivo del Día de una Internet Segura, Meta lanzó el servicio Take it down para bloquear o evitar la difusión de material privado.
El abuso de la IA
¿Qué pasa si el contenido explícito nos concierne pero es falso? Allá manipulación con fines pornográficos, o deepnude, representa entre el 90% y el 95% de todo el contenido falsificado y el 90% es pornografía que victimiza a las mujeres (Sensity AI). A la espera de actualizaciones de la Ley de IA, se puede hacer referencia a otros delitos como difamación o extorsión, así como a las regulaciones de las redes sociales involucradas. Junto con los vídeos, la IA facilita la creación de identidades falsas (catfishing), favoreciendo la estafa romántica: perfiles falsos que establecen una relación íntima con la víctima de estafa. Según los últimos datos de Cyber Guru, plataforma de formación en sensibilización en seguridad, el 52% no distingue los perfiles reales de los falsos y el 13% ha intercambiado material con desconocidos. El peligro es toparse con un ciberdelincuente capaz de instalar malware en su teléfono móvil tomando posesión de sus datos personales.
La Policía Postal registró un aumento del 118% en los casos de estafa romántica en 2021 respecto a 2020 (año récord) con sumas robadas equivalentes a 4.500.000; mientras que en los primeros once meses de 2023 los casos de sextorsión aumentaron a 1.384, con un aumento del 29% desde 2022. El pesca de gato no es un delito pero tiene su origen en el delito de suplantación de identidad o usurpación de identidad, regulado por el art. 494 del código penal. En febrero, la aplicación de citas Bumble publicó los primeros datos de Deception Detectotor, un sistema que rastrea perfiles falsos mediante IA: en los dos primeros meses, las denuncias se redujeron en un 45%, bloqueando automáticamente el 95%.