Revenge porn, sextorsion et deepnude, telles sont les formes de violence numérique contre les femmes rendues plus accessibles grâce à l’intelligence artificielle. La création de faux contenus pornographiques, par exemple, a trouvé dans l’IA un outil de production rapide et dangereux. Quelles sont les limites d’application de l’IA et comment l’utiliser contre les violences de genre ? Les chatbots et les applications, les manuels et les services en ligne pour la protection des données ne sont que les premiers outils permettant de construire une bonne pratique à long terme.
Cyberviolence
Certains phénomènes de cyberviolence apparaissent comme un délit, d’autres y sont rattachés, et c’est là que l’IA rencontre son premier obstacle. La vengeance pornographique est un délit depuis 2009 grâce à l’article 612 ter du Code pénal italien. La diffusion non consensuelle de matériel intime, en ligne et sur les groupes Telegram/Whatsapp, se développe et implique également des mineurs. De plus, le contenu explicite peut également être utilisé à des fins d’extorsion, d’où le nom de sextorsion.
L’association à but non lucratif Permetto Negato, spécialisée dans l’accompagnement des victimes de pornographie non consensuelle, rapporte des cas en augmentation sur Telegram : 147 groupes et chaînes surveillés, 16 883 722 utilisateurs et plus de 6 704 050 contenus partagés. La dernière analyse, fin 2023, s’est concentrée sur 7 groupes, avec 331 837 messages impliqués. La démographie est majoritairement masculine (11-60 ans). Au cours des onze premiers mois de 2023, la police postale a enregistré 259 cas (183 signalés par des femmes). Comment se défendre ? Le Privacy Guarantor met à disposition un manuel sur la sécurité et offre la possibilité de faire un rapport préventif en ligne. En février, à l’occasion du Safer Internet Day, Meta a lancé le service Take it down pour bloquer ou empêcher la diffusion de matériel privé.
L’abus de l’IA
Et si le contenu explicite nous concerne mais est faux ? Là manipulation à des fins pornographiques, ou deepnude, représente 90 à 95 % de tout le contenu usurpé et 90 % sont du porno qui victimise les femmes (Sensity AI). En attendant les mises à jour de la loi sur l’IA, on peut faire référence à d’autres délits tels que la diffamation ou l’extorsion, ainsi qu’aux réglementations des réseaux sociaux concernés. Associée aux vidéos, l’IA facilite la création de fausses identités (catfishing), favorisant la arnaque amoureuse: faux profils qui établissent une relation intime avec la victime pour arnaque. Selon les dernières données de Cyber Guru, une plateforme de formation à la sensibilisation à la sécurité, 52 % ne distinguent pas les vrais profils des faux et 13 % ont échangé du matériel avec des inconnus. Le danger est de tomber sur un cybercriminel capable d’installer malware sur votre téléphone mobile en prenant possession de vos données personnelles.
La police postale a enregistré une augmentation de 118% des cas de arnaque amoureuse en 2021 par rapport à 2020 (année record) avec des sommes volées égales à 4 500 000 ; tandis qu’au cours des onze premiers mois de 2023, les cas de sextorsion ils sont passés à 1 384, soit une augmentation de 29 % par rapport à 2022. pêche au chat ce n’est pas un délit mais peut être rattaché au délit d’usurpation d’identité ou d’usurpation d’identité, réglementé par l’art. 494 du code pénal. En février, l’application de rencontres Bumble a publié les premières données de Deception Detecotor, un système qui traque les faux profils grâce à l’IA : au cours des deux premiers mois, les signalements ont été réduits de 45 %, bloquant automatiquement 95 %.