Un alto funcionario del gobierno de Narendra Modi advirtió que las empresas de redes sociales serán responsables de los “deepfakes” generados por IA publicados en sus plataformas de conformidad con “reglas muy claras y explícitas” mientras India se prepara para las elecciones generales de este año.
Rajeev Chandrasekhar, ministro de Estado de Electrónica y TI, dijo que India se había “despertado antes” que otros países al peligro que representan los deepfakes debido al tamaño de su población en línea. Hasta 870 millones de personas están conectadas a Internet, mientras que 600 millones utilizan las redes sociales de una población total de 1.400 millones.
“Somos la democracia más grande del mundo [and] «Obviamente estamos profundamente preocupados por el impacto de los actores transfronterizos que utilizan la desinformación, la desinformación y los deepfakes para causar problemas en nuestra democracia», dijo Chandrasekhar al Financial Times. «Hemos estado alerta a esto antes que la mayoría de los países porque nos afecta mucho más que a los países más pequeños».
La advertencia sobre las falsificaciones se produce después de que Modi, que busca la reelección para un tercer mandato en una elección parlamentaria prevista para abril y mayo, abordara el tema en comentarios recientes, y mientras India ejerce su influencia regulatoria sobre las empresas que prestan servicios a una de las mayores empresas del planeta. poblaciones de usuarios de Internet.
Los investigadores han advertido que los deepfakes (imágenes, videos y audio creados por herramientas baratas de inteligencia artificial que pueden recrear de manera convincente a seres humanos) son una amenaza creciente para las democracias. Ya se han utilizado clips falsos para influir en la política y las elecciones en el Reino Unido, Bangladesh, Nigeria, Sudán y Eslovaquia.
Mientras tanto, las plataformas de redes sociales han elaborado reglas para combatir los deepfakes. Meta, X y TikTok ahora exigen que los medios manipulados engañosos sean eliminados o etiquetados. Meta y Google anunciaron recientemente políticas que exigen que las campañas revelen si sus anuncios políticos han sido alterados digitalmente.
Algunos países han estado explorando la posibilidad de tomar medidas drásticas contra los deepfakes en el contexto de la pornografía y la política, por ejemplo. En Estados Unidos, por ejemplo, no existen leyes federales que regulen explícitamente esta tecnología. Sin embargo, varios legisladores estatales están perseguir legislación para abordar los deepfakes políticos.
Nueva Delhi, en un aviso publicado el 26 de diciembre y enviado a las redes sociales y plataformas de mensajería activas en la India, incluidas YouTube, X, WhatsApp, Telegram, Snap y la red social local Koo, exigió que las empresas de tecnología cumplan con la ley india sobre contenido ilegal y dejarlo claro en sus términos de servicio y acuerdos de usuario.
Las normas de TI de la India, redactadas en 2021, también prohíben el contenido que se considera perjudicial para los niños, amenaza la seguridad nacional o difunde información errónea, entre otras restricciones a la libertad de expresión.
La directiva advirtió a las plataformas que «identifiquen y eliminen la información errónea que sea evidentemente falsa, falsa o engañosa por naturaleza y que se haga pasar por otra persona, incluidas las creadas con deepfakes».
“Nuestro enfoque hacia los deepfakes después de que el primer ministro llamó la atención sobre ellos es decirles a los intermediarios, llamar su atención sobre el hecho de que la ley del país prohíbe a cualquier usuario en su plataforma alojar información errónea, incluidos los deepfakes, y imponer una obligación a sus usuarios. las plataformas que, si algún usuario lo hace, estaría violando la ley”, dijo Chandrasekhar.
Añadió: “Al permitir que el usuario siga publicando ese contenido, la plataforma estaría violando la ley”.
Dijo que la gente cometió el error de confundir a Estados Unidos, donde los derechos de la Primera Enmienda eran “absolutos e incondicionales”, con el resto del mundo, incluida la India.
«En realidad, estamos creando una forma de regulación tecnológica que se encuentra entre Estados Unidos y Europa», dijo el funcionario. “Estados Unidos lo deja completamente en manos de los mercados; Europa lo hace completamente orientada a los ciudadanos; y básicamente decimos: ‘Nos encanta la innovación, la fomentaremos, pero queremos proteger a nuestras pequeñas empresas y usuarios’”.
En las elecciones más recientes de la India, celebradas en 2014 y 2019, las redes sociales desempeñaron un papel importante en la campaña emprendida y ganada por el partido gobernante Bharatiya Janata. Se espera ampliamente que el BJP de Modi gane las elecciones de este año frente a una oposición débil y dividida.
India es un mercado sensible para las empresas de Silicon Valley, ya que el Congreso Nacional Indio ha acusado a plataformas como YouTube de «prohibir en la sombra» algunos de sus contenidos, como los discursos del diputado Rahul Gandhi, mientras que grupos de la sociedad civil alegaron que las empresas tecnológicas se inclinan demasiado fácilmente ante Modi. Órdenes de derribo del gobierno. En los últimos años, se ha ordenado a las plataformas sociales que eliminen publicaciones críticas, por ejemplo, sobre el manejo de la pandemia de coronavirus por parte del gobierno indio y han bloqueado a los críticos de Modi.
India es uno de los mayores mercados globales para las plataformas de Meta, como WhatsApp y Facebook, así como para Google y su canal de vídeos YouTube. Grupos de la sociedad civil acusan al gobierno de Modi de exceso de celo en su vigilancia de Internet, lo que, según dicen, es parte de una represión más amplia de la India contra la libertad de expresión.
En una carta enviada este mes a Chandrasekhar y otros funcionarios responsables de establecer la política gubernamental de TI, la Internet Freedom Foundation, un grupo no gubernamental, afirmó que podrían “afectar desproporcionadamente el discurso políticamente inconveniente o controvertido, y potencialmente conducir a una censura arbitraria”.
Chandrasekhar rechazó las acusaciones de extralimitación del gobierno, diciendo que «nadie puede argumentar que el material de abuso sexual infantil o las falsificaciones profundas o el contenido pedófilo o que viola patentes sea una infracción de los derechos de nadie».
«India está liderando esta carga, donde se les pide a las plataformas que asuman cada vez más responsabilidad y rindan más cuentas por cualquier cosa ilegal que suceda en sus plataformas», dijo.