Entre de mauvaises mains, l’intelligence artificielle peut utiliser des photos et des vidéos prises d’un enfant à des fins criminelles.
Les parents doivent faire preuve de discernement dans ce qu’ils partagent sur leurs enfants sur les réseaux sociaux. Image d’illustration. La plupart des photos
- L’intelligence artificielle est utilisée de différentes manières dans les activités criminelles, explique Aku Limnell de la police criminelle centrale.
- L’intelligence artificielle a façonné l’environnement numérique. Partager du contenu, même inoffensif, comporte aujourd’hui des risques.
- Rauna Rahja du MLL rappelle que les enfants ont droit à la vie privée.
Un enfant peut être capturé numériquement grâce à l’intelligence artificielle. C’est le message de la société informatique allemande Deutsche Telekom annoncequi met en garde les parents sur les risques liés au partage des photos et vidéos de leur enfant.
Dans la publicité, « Ella », créée par l’IA, explique à ses parents comment son identité peut être volée. Son visage et sa voix peuvent être capturés dans des messages frauduleux et il peut, par exemple, perdre ses informations de crédit entre de mauvaises mains.
Dans le cas le plus sombre, grâce à l’intelligence artificielle, le visage d’un enfant peut se retrouver sur des sites Web criminels basés sur des abus sexuels sur des enfants. BBC a rapporté que les pédophiles utilisent l’intelligence artificielle pour créer et vendre du matériel réaliste sur les abus sexuels sur des enfants sur Internet.
Activité criminelle
Même si le message de la publicité est dur, il n’est pas entièrement faux. Il est possible que l’IA, entre de mauvaises mains, utilise les images et les sons des enfants à des fins criminelles.
– L’intelligence artificielle est utilisée de différentes manières dans les activités criminelles. Dans la cybercriminalité, outre les méthodes traditionnelles, de nouvelles formes de criminalité sont généralement utilisées, dit-il. Aku Limnell Iltalehti par e-mail.
Limnell est l’inspecteur en chef du centre de prévention de la cybercriminalité de la police centrale criminelle (KRP). En Finlande, les cas portés à l’attention de la police sont pour la plupart des délits commis dans l’intention d’intimidation, où la victime est créée, par exemple, avec un faux compte.
– Sur la base des photos ou des vidéos fournies par la victime elle-même, elle peut faire l’objet de chantage de différentes manières, explique Limnell.
Les images et la voix de l’enfant peuvent être utilisées dans de fausses vidéos. Image d’illustration. La plupart des photos
Selon Limnell, le cyberenvironnement opérationnel actuel a, par exemple, permis le modèle crime-as-a-service pour la cybercriminalité.
– Différents services peuvent être achetés sur les plateformes de marché en question, que les personnes sans compétences informatiques peuvent utiliser pour commettre des délits. Des applications et des programmes de contrefaçon artificielle profonde sont également disponibles, explique Limnell.
Les photos et vidéos de l’enfant peuvent être partagées sur différentes plateformes. Les images peuvent être utilisées, par exemple, en attachant ou en remplaçant un visage à une autre image ou à un corps sur l’image. Joindre une image de visage à des vidéos artificielles deepfake, c’est-à-dire faux profond -des vidéos sont également possibles.
Ce type d’activité a-t-il déjà été observé en Finlande ?
– Des manipulations d’images de bas niveau ont été constatées en Finlande, mais la police n’a connaissance d’aucune indication d’une utilisation réelle de l’intelligence artificielle dans l’utilisation abusive d’images ou de vidéos, explique Limnell.
– Dans le cadre de ses attributions, la police est présente dans différents canaux et est en mesure de lutter et d’intervenir dans les activités criminelles. La police criminelle centrale surveille en permanence l’évolution de la technologie et les phénomènes de cybercriminalité.
Un changement important dans l’environnement numérique
Alors, est-il possible que si vous partagez les photos de votre enfant sur les réseaux sociaux, il puisse se retrouver dans une activité criminelle ?
Limnell rappelle qu’en général, le partage de photos sur les réseaux sociaux comporte des risques.
– Il est important d’être conscient des risques car les criminels peuvent utiliser les images partagées de différentes manières dans le cadre de leurs propres activités. Le risque peut être réduit, par exemple, en prêtant attention à la vie privée, c’est-à-dire aux environnements privés, qu’il serait bon de connaître attentivement.
L’Association de protection de l’enfance Mannerheim (MLL) est experte en éducation aux médias Rauna Rahja est dans le même sens.
Rahja confirme également que l’intelligence artificielle crée de nouveaux types de risques dans l’environnement numérique. Selon Rahja, l’environnement numérique a également changé.
– Malheureusement, l’intelligence artificielle offre des possibilités d’utilisation abusive des informations d’un enfant. La situation a également changé à tel point que, dans le passé, des efforts ont été déployés pour rappeler aux parents de ne pas publier de photos de leurs enfants sans aucune considération, explique Rahja.
– Aujourd’hui, la situation est telle que lors du partage de contenu, même petit et inoffensif, il existe un risque que l’image finisse entre de mauvaises mains. Il peut être modifié en quelque chose de préjudiciable ou dangereux pour l’enfant.
Protection de la vie privée des enfants
Les parents doivent être impliqués dans l’utilisation des médias par leurs enfants, rappelle l’experte du MLL, Rauha Rahja. La plupart des photos
Chaque enfant a également droit à la vie privée.
– Il est lié aux droits fondamentaux de l’enfant. Cela signifie que les informations personnelles privées et identifiables de l’enfant, telles que l’adresse du domicile, ne sont pas partagées dans l’environnement numérique. Les parents doivent veiller à ce que l’enfant préserve son intimité.
Un enfant jouit d’une intimité dès sa naissance, rappelle Rahja.
– Les parents ne sont pas propriétaires de la vie privée de l’enfant. Vous devez faire preuve de discernement quant à ce que vous partagez sur votre enfant sur les réseaux sociaux. Il y a des choses sensibles qui ne peuvent pas du tout être partagées, par exemple des informations sur la santé ou des photos sensibles, explique Rahja.
– Il n’y a jamais aucune certitude que les images et informations de l’enfant ne seront conservées que sur une certaine plateforme et dans le contexte où elles ont été partagées. Plus l’enfant est petit, plus le rôle de la considération et de l’action intelligente des parents est important.
Rahja rappelle également que son propre enfant doit également apprendre à prendre en compte la vie privée des autres. L’enfant ne peut pas partager de photos et d’informations sur autrui sans autorisation.
Les environnements numériques évoluent constamment. Rahja souligne qu’il est important que les parents restent au courant des changements.
– Les parents doivent être impliqués dans l’utilisation des médias par l’enfant. Développons ensemble un environnement numérique sûr pour l’enfant. La vie quotidienne et la vie sont de plus en plus numérisées, de sorte que l’importance de la sécurité ne cesse de croître, résume Rahja.