El Impacto de los Videos Generados por IA en Redes Sociales
La Viralidad de un Caso Controversial
En octubre, un video en TikTok generó controversia al mostrar supuestamente a una mujer siendo entrevistada por un reportero sobre el tema de cupones de alimentos. Sin embargo, la mujer era ficticia, y la conversación nunca ocurrió; el video fue generado por inteligencia artificial (IA). A pesar de las claras señales de advertencia, muchas personas respondieron al contenido como si fuera real, lo que llevó a una avalancha de comentarios negativos y racistas hacia la mujer imaginaria, así como ataques a los programas de asistencia gubernamental.
La Facilidad de Manipulación de la Percepción Pública
Videos como este, creados mediante herramientas como Sora de OpenAI, evidencian la facilidad con que la IA puede manipular la percepción pública. Desde la llegada de Sora, ha habido un aumento alarmante de videos engañosos en plataformas como TikTok, YouTube y Facebook, lo que ha suscitado preocupaciones sobre una nueva era de desinformación.
Los Desafíos de la Moderación de Contenidos
Las principales redes sociales han implementado políticas que requieren la divulgación del uso de IA y prohíben contenido engañoso. Sin embargo, estas medidas han resultado insuficientes frente a los avances tecnológicos que herramientas como Sora representan. La responsabilidad de la moderación recae en las plataformas, pero su enfoque actual se basa en que los creadores de contenido divulguen si su trabajo es auténtico. Esta estrategia ha resultado poco efectiva.
Reacciones Ante la Desinformación
Investigadores han señalado la necesidad urgente de que las plataformas mejoren sus tácticas de moderación. Según Sam Gregory, director ejecutivo de Witness, es evidente que las redes sociales no están haciendo lo suficiente para identificar y etiquetar información generada por IA.
Las Soluciones Propuestas
Las herramientas de IA, como Sora y Veo de Google, intentan hacer visible su uso al añadir marcas de agua y metadatos a los videos. TikTok ha anunciado planes para endurecer sus reglas sobre la divulgación del uso de IA y ha prometido nuevas herramientas para que los usuarios puedan elegir cuánto contenido sintético desean ver.
La Responsabilidad de las Compañías de Redes Sociales
A pesar de las promesas de transparencia, los representantes de plataformas como Meta han reconocido que etiquetar cada video generado por IA es un reto dadas las rápidas evoluciones tecnológicas. Literatura en el tema sugiere que, a largo plazo, una dependencia excesiva de contenido generada por IA podría hacer que estas plataformas reconsideren sus políticas.
El Lado Económico del Problema
Alon Yamin, CEO de Copyleaks, señala que las plataformas sociales no tienen un incentivo financiero inmediato para restringir la difusión de videos de IA, ya que los usuarios continúan interactuando con ellos. Sin embargo, planteó que una vez que un alto porcentaje del tráfico provenga de contenido de IA, se plantearán preguntas sobre la calidad de las plataformas.
Conclusión
El surgimiento de videos generados por IA ha transformado radicalmente la dinámica de la información en redes sociales. Aunque las herramientas existen para identificar y moderar este contenido, la intervención de las plataformas es crucial para proteger a los usuarios de la desinformación. La responsabilidad ahora recae en estas empresas para establecer un ecosistema más seguro y transparente que mitigue el impacto de la IA en la percepción pública.
About the Author
