Alexandra Ocasio-Cortez se ha visto afectada por imágenes deepfake de IA durante años y está lista para luchar contra las imágenes no consensuadas y sexualmente explícitas generadas por IA. Ocasio-Cortez es una política estadounidense del Partido Demócrata y ha sido miembro de la Cámara de Representantes de los Estados Unidos por el distrito 14 del Congreso de Nueva York desde enero de 2019.
Ocasio-Cortez le dijo a Rolling Stone que ella y un grupo bipartidista de legisladores presentarán la Ley de Interrupción de Imágenes Falsificadas Explícitas y Ediciones No Consensuales (DEFIANCE) de 2024 en la Cámara de Representantes. El proyecto de ley es su primer paso desde su nombramiento como miembro del grupo de trabajo bipartidista de la Cámara sobre IA, anunciado el mes pasado.
El proyecto de ley modifica la Ley de Violencia contra las Mujeres (VAWA) para permitir que las personas demanden a quienes producen, distribuyen o reciben pornografía falsa si sabían o ignoraron imprudentemente que la víctima no dio su consentimiento para esas imágenes.
«La forma en que respondamos a estas preguntas moldeará la forma en que todos vivimos como sociedad y, individualmente, las cosas que nos suceden a nosotros o a alguien que conocemos desde hace décadas», le dice Ocasio-Cortez a Rolling Stone. Ella dice que hay una «urgencia del momento porque la gente ha esperado demasiado para sentar las bases para esto», por lo que debemos lidiar con eso y encontrar respuestas sobre cómo regular la tecnología deepfake de manera que las víctimas estén protegidas. Pero también es necesario pensar profundamente y tomar muy en serio las conclusiones y acciones a las que llegamos.
«La forma en que respondamos a estas preguntas dará forma a todas nuestras vidas como sociedad».
Ocasio-Cortez dice que fue crucial para ella y su equipo trabajar en estrecha colaboración con los sobrevivientes de abuso cuando trabajaban en el proyecto de ley. «Es simplemente un tipo diferente de legislación en la que realmente te centras en las personas más afectadas», afirma.
Más de 25 organizaciones han apoyado la legislación bipartidista, incluido el Centro Nacional de Derecho de la Mujer, la Asociación para la Prevención de la Violencia Sexual, la Línea Directa Nacional contra la Violencia Doméstica y UltraViolet.
Ocasio-Cortez codirige el proyecto de ley con los senadores Dick Durbin (D-Ill.) y Lindsey Graham (R-S.C.). El Senado presentó la Ley DEFIANCE el 30 de enero, aproximadamente una semana después de que varios deepfakes sexualmente explícitos de Taylor Swift generados por inteligencia artificial se volvieran virales en X.
El proyecto de ley define las “falsificaciones digitales” como representaciones visuales “creadas mediante el uso de software, aprendizaje automático, inteligencia artificial u otros medios tecnológicos o generados por computadora para parecer falsamente auténticos”. Cualquier falsificación digital que muestre a las víctimas “desnudas o en actos o escenarios sexuales sexualmente explícitos” se consideraría como tal. Las víctimas podrían demandar a “las personas que fabricaron o poseyeron la falsificación con la intención de distribuirla, o que fabricaron, distribuyeron o recibieron la falsificación” si sabían que la víctima no dio su consentimiento.
El auge de la IA generativa está haciendo que al público le resulte más fácil que nunca crear imágenes realistas. Un estudio de 2019 realizado por la empresa de ciberseguridad DeepTrace Labs, que desarrolla herramientas para detectar deepfakes, encontró que el 96 por ciento de los videos deepfake son videos pornográficos no consensuados que muestran solo a mujeres. Como informa ONU Mujeres, las mujeres que enfrentan múltiples formas de discriminación, incluidas las mujeres negras e indígenas y otras mujeres de color, las personas LGBTQ y las mujeres con discapacidad, corren un mayor riesgo de sufrir violencia de género habilitada por la tecnología.
Si el proyecto de ley es aprobado por la Cámara y el Senado, sería la primera ley federal que protege a las víctimas de deepfakes y les brinda un recurso civil.
Eso no quiere decir que no haya habido esfuerzos previos para frenar los deepfakes, incluso si los proyectos de ley anteriores destinados a hacerlo aún no se han implementado. La representante Yvette Clarke (D-N.Y.) introdujo una Ley de Responsabilidad de DeepFakes en junio de 2019 y nuevamente en septiembre de 2023 para establecer sanciones penales y proporcionar recursos legales para las víctimas de deepfakes. En mayo de 2023, el representante Joe Morelle (D-N.Y.) presentó la Ley de Prevención de Deepfakes de Imágenes Íntimas, que habría penalizado el intercambio de deepfakes no consensuales y sexualmente explícitos.
“Estábamos trabajando en esta legislación incluso antes de que supiera que me nombrarían miembro del grupo de trabajo bipartidista sobre IA”, dijo Ocasio-Cortez. «Es algo realmente importante».