X, anteriormente Twitter, tuvo un fin de semana particularmente turbulento. En cuestión, la proliferación de deepfakes pornográficos de la cantante Taylor Swift en la plataforma obligó a tomar medidas drásticas para frenarla. Por su parte, la clase política estadounidense se ha mostrado alarmada por la incapacidad de las redes sociales para actuar contra la desinformación derivada de la inteligencia artificial (IA).
Las búsquedas de Taylor Swift ya no funcionan
Las imágenes falsas del artista comenzaron a circular en X este miércoles 24 de enero y fueron vistas millones de veces. Avergonzada, la red social bloqueó todas las búsquedas, incluso las legítimas, relacionadas con Taylor Swift. Estos ahora indican un mensaje de error. “ Esta es una medida temporal que se toma con mucha precaución ya que priorizamos la seguridad en esta área. «, explicó Joe Benarroch, jefe de operaciones de ventas de X.
Si Taylor Swift no es la primera celebridad víctima de este tipo de actos, la reacción del público nunca ha sido de tal magnitud. Durante una conferencia de prensa, la portavoz de la Casa Blanca, Karine Jean-Pierre, calificó la circulación de estas imágenes falsas como “ alarmante «.
“ Si bien las redes sociales toman sus propias decisiones sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar a la hora de hacer cumplir sus propias reglas. «, ella continuó. También instó al Congreso a legislar sobre el tema.
“ Lo que le pasó a Taylor Swift no es nada nuevo. Durante años, las mujeres han sido blanco de “deepfakes” sin su consentimiento. Y con los avances de la IA, crearlas es más fácil y económico “, denunció la diputada demócrata Yvette Clark. Los deepfakes, imágenes o sonidos realistas creados por IA, permiten a sus autores presentar personalidades en situaciones comprometedoras o engañosas sin su consentimiento.
La publicación de imágenes de desnudos no consensuales (NCN) está estrictamente prohibida en X y tenemos una política de tolerancia cero hacia dicho contenido. Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos de cerca…
— Seguridad (@Seguridad) 26 de enero de 2024
Un incidente que plantea interrogantes a pocos meses de las elecciones estadounidenses
“ Publicar imágenes de desnudos no consentidos está estrictamente prohibido en X y tenemos una política de tolerancia cero hacia este tipo de contenido. Nuestros equipos están trabajando activamente para eliminar todas las imágenes identificadas y tomar las medidas adecuadas contra las cuentas responsables de su publicación. », indicó X.
Desde la adquisición de Elon Musk en octubre de 2022, la plataforma ha reducido en gran medida sus equipos de moderación y promueve la libertad absoluta de expresión. Los reguladores australianos y europeos han advertido de una situación catastrófica, con la proliferación de contenidos de odio y dañinos en X.
Este incidente es tanto más preocupante cuanto que el año 2024 estará lleno de elecciones, especialmente en Estados Unidos. Por ejemplo, un deepfake de Joe Biden animando a los ciudadanos a no votar en las primarias demócratas en New Hampshire alarmó recientemente a los expertos.