L’intelligence artificielle est maintenant utilisée pour créer du matériel pour le plaisir des enfants, dont la possession est également illégale en Finlande.
L’open source permet de créer du matériel illégal. Image d’illustration.
La BBC et Tivi ont rapporté comment l’intelligence artificielle est utilisée pour produire du contenu similaire au matériel de divertissement pour enfants pour plusieurs sites Web. Les images d’intelligence artificielle sont principalement créées avec la version open source du programme Stable Diffusion, qui interdit cependant la création de matériel illégal.
Des images pédopornographiques créées par l’intelligence artificielle ont été distribuées moyennant des frais sur des sites Web tels que Patreon et Pixiv. Une partie du matériel est très brute et représente, par exemple, le viol d’enfants en bas âge. Parmi le matériel produit avec l’intelligence artificielle, il y a aussi des liens vers du matériel d’utilisation authentique pour les enfants.
Coupe en cours
L’équipe de la criminalité en ligne de la police britannique a également déjà découvert des contenus d’intelligence artificielle imitant la pédopornographie. Selon le NPCC, l’agence britannique de coordination des forces de l’ordre, le contenu généré par l’IA peut priver les forces de l’ordre des ressources nécessaires pour enquêter sur de vrais cas de maltraitance d’enfants. De plus, la consommation de matériel créé avec l’intelligence artificielle peut conduire à des violences sexuelles dans la vie réelle.
Patreon et Pixiv tentent tous deux d’empêcher la propagation de la pédopornographie générée par l’IA en interdisant et en bloquant les utilisateurs qui distribuent le matériel.
Source: la télé