En 2023, leAutorité garante de la protection des données personnelles est intervenu sur les enjeux majeurs liés à la protection des droits fondamentaux des personnes dans le monde numérique. En particulier, les implications éthiques de la technologie ont été examinées par les autorités ; Intelligence artificielle générative ; l’économie basée sur les données ; les grandes plateformes et la protection des mineurs ; systèmes de vérification de l’âge ; Big Data; les problèmes posés par les algorithmes ; sécurité des systèmes et protection du cyberespace ; la monétisation des informations personnelles ; les phénomènes de vengeance pornographique et de cyberintimidation.
En particulier, le phénomène de vengeance porno on constate une augmentation inquiétante : 299 signalements de personnes craignant la diffusion de photos et de vidéos sexuellement explicites, soit le double par rapport à l’année dernière. Les signalements reçus, souligne le Garant, ont été traités avec célérité et dans la plupart des cas l’examen s’est conclu par une mesure adressée aux plateformes concernées pour obtenir le blocage préventif de la diffusion des photos et vidéos.
Le rapport sur les activités réalisées en 2023 a été illustré à la Chambre par le président du Garant Pasquale Stanzione en présence de représentants des institutions, du monde de l’entreprise et des associations de consommateurs. « L’exercice par le Garant de la compétence spécifique qui lui est attribuée en matière de vengeance pornographique (consistant dans la décision sur les demandes de blocage de la mise en ligne non consensuelle de contenus intimes : cette année, 299), a permis à l’Autorité de vérifier la l’immensité et l’omniprésence du phénomène, qui peut ainsi être endigué au moins partiellement », a déclaré Stanzione.
Intelligence artificielle
2023 a été l’année de la diffusion de l’intelligence artificielle. Après un premier blocage de ChatGPT, en raison de la collecte illicite de données personnelles et de l’absence de systèmes de vérification de l’âge des mineurs, la plateforme a été rouverte, garantissant plus de transparence et plus de droits aux utilisateurs. Entre-temps, une task force ad hoc a été créée au niveau européen et de nouveaux contrôles de la part de l’Autorité sont en cours. Le Garant a également imposé un arrêt au chatbot Replika : trop de risques pour les mineurs et les personnes émotionnellement fragiles, et a ouvert une enquête sur Sora, le modèle d’intelligence artificielle qui crée de courtes vidéos à partir de quelques lignes de texte. Pornhub est également sous le regard de l’Autorité, demandant des éclaircissements sur les systèmes de profilage et de suivi des utilisateurs. Dans ce domaine également, la disposition du Garant de la confidentialité qui dicte les règles pour protéger les données personnelles contre le webscraping. L’Intelligence Artificielle « fait désormais partie de notre horizon de vie quotidienne et deviendra de plus en plus un élément constitutif, avec des effets dont nous ne connaissons peut-être pas entièrement la portée (au sens anthropologique large) – a souligné Stanzione -. Le droit a pour mission de combler ce manque de conscience, en nous donnant les outils pour comprendre comment mettre véritablement au service de l’homme ce qui peut représenter à la fois un extraordinaire facteur de développement, de bien-être, de promotion de l’intérêt public et aussi, si elle n’est pas bien gouvernée, c’est une source de risques tout sauf négligeables pour la personne, la société et la démocratie. »
Stanzione : avec Ai Act, l’Europe première contre la déréglementation
«La loi sur l’IA – a-t-il ajouté – représente, avec ce qu’était le RGPD il y a huit ans, la tentative la plus avancée de l’Europe pour définir une stratégie anthropocentrique pour la gouvernance de la technologie. En favorisant l’innovation durable en termes de garanties juridiques, d’équité sociale et de dignité personnelle, l’Europe a en effet investi son identité de communauté de droit dans le domaine numérique, marquant sa spécificité tant par rapport à la déréglementation que par le caractère sectoriel du secteur. approche américaine, par rapport à l’autoritarisme sino-coréen ». Celle de l’Union européenne, a rappelé Stanzione, a été « la première discipline au monde, de nature organique et non sectorielle, de l’intelligence artificielle, marquant une primauté qui n’est pas du tout seulement chronologique mais avant tout axiologique ». ».