A los formuladores de pol\u00edticas de todo el mundo les preocupa c\u00f3mo se puede aprovechar la desinformaci\u00f3n generada por la IA para tratar de enga\u00f1ar a los votantes y avivar las divisiones antes de varias elecciones importantes el pr\u00f3ximo a\u00f1o. <\/p>\n
En un pa\u00eds ya est\u00e1 sucediendo: Bangladesh.<\/p>\n
La naci\u00f3n del sur de Asia de 170 millones de habitantes se dirige a las urnas a principios de enero, una contienda marcada por una lucha de poder amarga y polarizadora entre la actual Primera Ministra Sheikh Hasina y sus rivales, el opositor Partido Nacionalista de Bangladesh.<\/p>\n
Los medios de comunicaci\u00f3n progubernamentales y personas influyentes en Bangladesh han promovido en los \u00faltimos meses la desinformaci\u00f3n generada por IA creada con herramientas baratas ofrecidas por nuevas empresas de inteligencia artificial.<\/p>\n
En un supuesto clip de noticias, un presentador generado por IA arremete contra Estados Unidos, un pa\u00eds que el gobierno de Sheikh Hasina ha criticado antes de las elecciones. Otro video falso, que luego fue eliminado, mostraba a un l\u00edder de la oposici\u00f3n equivoc\u00e1ndose sobre el apoyo a los habitantes de Gaza, una posici\u00f3n potencialmente ruinosa en el pa\u00eds de mayor\u00eda musulmana con una fuerte simpat\u00eda p\u00fablica por los palestinos.<\/p>\n
Est\u00e1 aumentando la presi\u00f3n p\u00fablica sobre las plataformas tecnol\u00f3gicas para que tomen medidas en\u00e9rgicas contra el contenido enga\u00f1oso de IA antes de varias elecciones importantes previstas para 2024, incluso en Estados Unidos, el Reino Unido, India e Indonesia. En respuesta, Google y Meta han anunciado recientemente pol\u00edticas para comenzar a exigir que las campa\u00f1as revelen si los anuncios pol\u00edticos han sido alterados digitalmente.<\/p>\n
Pero los ejemplos de Bangladesh muestran no s\u00f3lo c\u00f3mo estas herramientas de inteligencia artificial pueden explotarse en las elecciones, sino tambi\u00e9n la dificultad de controlar su uso en mercados m\u00e1s peque\u00f1os que corren el riesgo de ser pasados \u200b\u200bpor alto por las empresas tecnol\u00f3gicas estadounidenses.<\/p>\n
Miraj Ahmed Chowdhury, director general de la firma de investigaci\u00f3n de medios Digitally Right, con sede en Bangladesh, dijo que si bien la desinformaci\u00f3n generada por IA estaba \u201ctodav\u00eda en un nivel de experimentaci\u00f3n\u201d (la mayor\u00eda creada utilizando plataformas convencionales de edici\u00f3n de fotograf\u00edas o videos), demostraba c\u00f3mo podr\u00eda tomarse. apagado.<\/p>\n
“Cuando tienen tecnolog\u00edas y herramientas como la IA, que les permiten producir informaci\u00f3n err\u00f3nea y desinformaci\u00f3n a gran escala, entonces puedes imaginar cu\u00e1n grande es esa amenaza”, dijo, y agreg\u00f3 que “la atenci\u00f3n de una plataforma a una determinada jurisdicci\u00f3n depende de cu\u00e1n grande sea esa amenaza”. importante que es como mercado\u201d.<\/p>\n
El enfoque global en la capacidad de utilizar la IA para crear contenido pol\u00edtico enga\u00f1oso o falso ha aumentado durante el a\u00f1o pasado con la proliferaci\u00f3n de herramientas poderosas como ChatGPT de OpenAI y generadores de video de IA.<\/p>\n
A principios de este a\u00f1o, el Comit\u00e9 Nacional Republicano de EE. UU. public\u00f3 un anuncio de ataque utilizando im\u00e1genes generadas por inteligencia artificial para representar un futuro dist\u00f3pico bajo el presidente Joe Biden. Y YouTube suspendi\u00f3 varias cuentas en Venezuela que utilizaban presentadores de noticias generados por inteligencia artificial para promover desinformaci\u00f3n favorable al r\u00e9gimen del presidente Nicol\u00e1s Maduro.<\/p>\n
En Bangladesh, la desinformaci\u00f3n alimenta un clima pol\u00edtico tenso antes de las elecciones de principios de enero. Sheikh Hasina ha tomado medidas en\u00e9rgicas contra la oposici\u00f3n. Miles de l\u00edderes y activistas han sido arrestados en lo que los cr\u00edticos advierten equivale a un intento de manipular las encuestas a su favor, lo que llev\u00f3 a Estados Unidos a presionar p\u00fablicamente a su gobierno para garantizar elecciones libres y justas.<\/p>\n
En un v\u00eddeo publicado en X en septiembre por BD Politico, un medio de noticias en l\u00ednea, un presentador de noticias de \u201cWorld News\u201d present\u00f3 un segmento de estudio, intercalado con im\u00e1genes de disturbios, en el que acus\u00f3 a los diplom\u00e1ticos estadounidenses de interferir en las elecciones de Bangladesh y los culp\u00f3. por la violencia pol\u00edtica.<\/p>\n
El v\u00eddeo se realiz\u00f3 utilizando HeyGen, un generador de v\u00eddeos de IA con sede en Los \u00c1ngeles que permite a los clientes crear clips con avatares de IA por tan solo 24 d\u00f3lares al mes. El mismo presentador, llamado “Edward”, puede verse en el contenido promocional de HeyGen como uno de varios avatares, que a su vez se generan a partir de actores reales, disponibles para los usuarios de la plataforma. X, BD Politico y HeyGen no respondieron a las solicitudes de comentarios.<\/p>\n Otros ejemplos incluyen videos falsos contra la oposici\u00f3n publicados en el Facebook de Meta, incluido uno que pretende ser del l\u00edder exiliado del BNP, Tarique Rahman, sugiriendo que el partido \u201cguarde silencio\u201d sobre Gaza para no disgustar a Estados Unidos. El Tech Global Institute, un grupo de expertos y Witness, una organizaci\u00f3n de medios sin fines de lucro, concluyeron que el video falso probablemente fue generado por IA.<\/p>\n AKM Wahiduzzaman, funcionario del BNP, dijo que su partido pidi\u00f3 a Meta que eliminara dicho contenido pero “la mayor\u00eda de las veces no se molestan en responder”. Meta elimin\u00f3 el video despu\u00e9s de que el Financial Times se comunicara con \u00e9l para pedirle comentarios.<\/p>\n En otro v\u00eddeo deepfake, creado utilizando la plataforma de v\u00eddeo de inteligencia artificial D-ID, con sede en Tel Aviv, se muestra al l\u00edder del ala juvenil del BNP, Rashed Iqbal Khan, mintiendo sobre su edad en lo que el Tech Global Institute dijo que era un esfuerzo por desacreditarlo. D-ID no respondi\u00f3 a una solicitud de comentarios.<\/p>\n Un desaf\u00edo principal para identificar dicha desinformaci\u00f3n fue la falta de herramientas confiables de detecci\u00f3n de IA, dijo Sabhanaz Rashid Diya, fundador de Tech Global Institute y ex ejecutivo de Meta, con productos disponibles en el mercado particularmente ineficaces para identificar contenido en idiomas distintos del ingl\u00e9s.<\/p>\n A\u00f1adi\u00f3 que las soluciones propuestas por las grandes plataformas tecnol\u00f3gicas, que se han centrado en regular la IA en los anuncios pol\u00edticos, tendr\u00e1n un efecto limitado en pa\u00edses como Bangladesh, donde los anuncios son una parte menor de la comunicaci\u00f3n pol\u00edtica.<\/p>\n “Las soluciones que est\u00e1n surgiendo para abordar esta avalancha de informaci\u00f3n err\u00f3nea sobre la IA est\u00e1n muy centradas en Occidente”. Las plataformas tecnol\u00f3gicas \u201cno se est\u00e1n tomando esto tan en serio en otras partes del mundo\u201d.<\/p>\n El problema se ve exacerbado por la falta de regulaci\u00f3n o su aplicaci\u00f3n selectiva por parte de las autoridades. La Ley de Seguridad Cibern\u00e9tica de Bangladesh, por ejemplo, ha sido criticada por otorgar al gobierno poderes draconianos para reprimir la disidencia en l\u00ednea.<\/p>\n El regulador de Internet de Bangladesh no respondi\u00f3 a una solicitud de comentarios sobre lo que est\u00e1 haciendo para controlar la informaci\u00f3n err\u00f3nea en l\u00ednea.<\/p>\n![\"Captura](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/12\/Los-deepfakes-enganan-a-los-votantes-en-las-elecciones-de.jpg\")
<\/picture>