Alexandra Ocasio-Cortez est affectée par les images deepfake de l’IA depuis des années et elle est prête à lutter contre les images non consensuelles et sexuellement explicites générées par l’IA. Ocasio-Cortez est un homme politique américain du Parti démocrate et est membre de la Chambre des représentants des États-Unis pour le 14e district du Congrès de New York depuis janvier 2019.
Ocasio-Cortez a déclaré à Rolling Stone qu’elle et un groupe bipartisan de législateurs présenteraient la loi de 2024 sur la perturbation des images forgées explicites et des modifications non consensuelles (DEFIANCE) à la Chambre des représentants. Le projet de loi est sa première étape depuis sa nomination au groupe de travail bipartisan de la Chambre sur l’IA, annoncée le mois dernier.
Le projet de loi modifie la loi sur la violence à l’égard des femmes (VAWA) pour permettre aux personnes de poursuivre en justice ceux qui produisent, distribuent ou reçoivent de la fausse pornographie s’ils savaient ou ignoraient de manière imprudente que la victime n’avait pas consenti à ces images.
« La façon dont nous répondrons à ces questions façonnera notre façon de vivre en tant que société et, individuellement, les choses qui nous arriveront ou à quelqu’un que nous connaissons depuis des décennies », a déclaré Ocasio-Cortez à Rolling Stone. Elle dit qu’il y a « une urgence du moment parce que les gens ont attendu trop longtemps pour jeter les bases de cela », nous devons donc nous y attaquer et trouver des réponses sur la manière de réglementer la technologie des deepfakes de manière à protéger les victimes. Mais il est également nécessaire de réfléchir profondément et de prendre très au sérieux les conclusions et les actions auxquelles nous parvenons.
« La façon dont nous répondrons à ces questions façonnera l’ensemble de notre vie en tant que société. »
Ocasio-Cortez dit qu’il était crucial pour elle et son équipe de travailler en étroite collaboration avec les survivantes d’abus lorsqu’elles travaillaient sur le projet de loi. « Il s’agit simplement d’un type de législation différent où l’on se concentre réellement sur les personnes les plus touchées », dit-elle.
Plus de 25 organisations ont soutenu la législation bipartite, notamment le National Women’s Law Center, la Sexual Violence Prevention Association, la National Domestic Violence Hotline et UltraViolet.
Ocasio-Cortez codirige l’affiche avec les sénateurs Dick Durbin (D-Ill.) et Lindsey Graham (R-S.C.). Le Sénat a présenté la loi DEFIANCE le 30 janvier, environ une semaine après que plusieurs deepfakes sexuellement explicites et générés par l’intelligence artificielle de Taylor Swift soient devenus viraux sur X.
Le projet de loi définit les « contrefaçons numériques » comme des représentations visuelles « créées grâce à l’utilisation de logiciels, d’apprentissage automatique, d’intelligence artificielle ou d’autres moyens technologiques ou générés par ordinateur pour paraître faussement authentiques ». Toute contrefaçon numérique montrant des victimes « nues ou dans des actes ou des scénarios sexuellement explicites » serait considérée comme telle. Les victimes pouvaient poursuivre « les personnes qui fabriquaient ou possédaient la contrefaçon avec l’intention de la distribuer, ou qui fabriquaient, distribuaient ou recevaient la contrefaçon » si elles savaient que la victime n’y consentait pas.
L’essor de l’IA générative permet au public de créer plus facilement que jamais des images réalistes. Une étude réalisée en 2019 par la société de cybersécurité DeepTrace Labs, qui développe des outils pour détecter les deepfakes, a révélé que 96 % des vidéos deepfakes sont des vidéos pornographiques non consensuelles mettant en scène uniquement des femmes. Comme le rapporte ONU Femmes, les femmes confrontées à de multiples formes de discrimination, notamment les femmes noires, autochtones et autres femmes de couleur, les personnes LGBTQ et les femmes handicapées, courent un risque accru d’être victimes de violences basées sur le genre liées à la technologie.
Si le projet de loi est adopté par la Chambre et le Sénat, ce serait la première loi fédérale protégeant les victimes de deepfakes à leur offrir un recours civil.
Cela ne veut pas dire qu’il n’y a pas eu d’efforts antérieurs pour lutter contre les deepfakes, même si les projets de loi précédents visant à y parvenir n’ont pas encore été mis en œuvre. La représentante Yvette Clarke (DN.Y.) a présenté une loi sur la responsabilité des DeepFakes en juin 2019, puis à nouveau en septembre 2023, pour établir des sanctions pénales et offrir des recours juridiques aux victimes de deepfakes. En mai 2023, le représentant Joe Morelle (DN.Y.) a présenté la loi sur la prévention des deepfakes d’images intimes, qui aurait criminalisé le partage de deepfakes non consensuels et sexuellement explicites.
« Nous travaillions sur cette législation avant même de savoir que je serais nommé au groupe de travail bipartisan sur l’IA », a déclaré Ocasio-Cortez. « C’est vraiment une grosse affaire. »