En octubre, un video en TikTok gener\u00f3 controversia al mostrar supuestamente a una mujer siendo entrevistada por un reportero sobre el tema de cupones de alimentos. Sin embargo, la mujer era ficticia, y la conversaci\u00f3n nunca ocurri\u00f3; el video fue generado por inteligencia artificial (IA). A pesar de las claras se\u00f1ales de advertencia, muchas personas respondieron al contenido como si fuera real, lo que llev\u00f3 a una avalancha de comentarios negativos y racistas hacia la mujer imaginaria, as\u00ed como ataques a los programas de asistencia gubernamental.<\/p>\n
Videos como este, creados mediante herramientas como Sora de OpenAI, evidencian la facilidad con que la IA puede manipular la percepci\u00f3n p\u00fablica. Desde la llegada de Sora, ha habido un aumento alarmante de videos enga\u00f1osos en plataformas como TikTok, YouTube y Facebook, lo que ha suscitado preocupaciones sobre una nueva era de desinformaci\u00f3n.<\/p>\n
Las principales redes sociales han implementado pol\u00edticas que requieren la divulgaci\u00f3n del uso de IA y proh\u00edben contenido enga\u00f1oso. Sin embargo, estas medidas han resultado insuficientes frente a los avances tecnol\u00f3gicos que herramientas como Sora representan. La responsabilidad de la moderaci\u00f3n recae en las plataformas, pero su enfoque actual se basa en que los creadores de contenido divulguen si su trabajo es aut\u00e9ntico. Esta estrategia ha resultado poco efectiva.<\/p>\n
Investigadores han se\u00f1alado la necesidad urgente de que las plataformas mejoren sus t\u00e1cticas de moderaci\u00f3n. Seg\u00fan Sam Gregory, director ejecutivo de Witness, es evidente que las redes sociales no est\u00e1n haciendo lo suficiente para identificar y etiquetar informaci\u00f3n generada por IA. <\/p>\n
Las herramientas de IA, como Sora y Veo de Google, intentan hacer visible su uso al a\u00f1adir marcas de agua y metadatos a los videos. TikTok ha anunciado planes para endurecer sus reglas sobre la divulgaci\u00f3n del uso de IA y ha prometido nuevas herramientas para que los usuarios puedan elegir cu\u00e1nto contenido sint\u00e9tico desean ver.<\/p>\n
A pesar de las promesas de transparencia, los representantes de plataformas como Meta han reconocido que etiquetar cada video generado por IA es un reto dadas las r\u00e1pidas evoluciones tecnol\u00f3gicas. Literatura en el tema sugiere que, a largo plazo, una dependencia excesiva de contenido generada por IA podr\u00eda hacer que estas plataformas reconsideren sus pol\u00edticas.<\/p>\n
Alon Yamin, CEO de Copyleaks, se\u00f1ala que las plataformas sociales no tienen un incentivo financiero inmediato para restringir la difusi\u00f3n de videos de IA, ya que los usuarios contin\u00faan interactuando con ellos. Sin embargo, plante\u00f3 que una vez que un alto porcentaje del tr\u00e1fico provenga de contenido de IA, se plantear\u00e1n preguntas sobre la calidad de las plataformas.<\/p>\n
El surgimiento de videos generados por IA ha transformado radicalmente la din\u00e1mica de la informaci\u00f3n en redes sociales. Aunque las herramientas existen para identificar y moderar este contenido, la intervenci\u00f3n de las plataformas es crucial para proteger a los usuarios de la desinformaci\u00f3n. La responsabilidad ahora recae en estas empresas para establecer un ecosistema m\u00e1s seguro y transparente que mitigue el impacto de la IA en la percepci\u00f3n p\u00fablica.<\/p>\n