Un haut responsable du gouvernement de Narendra Modi a averti que les sociétés de médias sociaux seraient tenues pour responsables des « deepfakes » générés par l’IA et publiés sur leurs plateformes, conformément à des « règles très claires et explicites », alors que l’Inde se prépare aux élections générales de cette année.
Rajeev Chandrasekhar, ministre d’État chargé de l’électronique et de l’informatique, a déclaré que l’Inde avait « pris conscience plus tôt » du danger posé par les deepfakes que les autres pays en raison de la taille de sa population en ligne. Sur une population totale de 1,4 milliard d’habitants, 870 millions de personnes sont connectées à Internet et 600 millions utilisent les réseaux sociaux.
« Nous sommes la plus grande démocratie du monde [and] nous sommes évidemment profondément préoccupés par l’impact des acteurs transfrontaliers qui utilisent la désinformation, la désinformation et les deepfakes pour causer des problèmes dans notre démocratie », a déclaré Chandrasekhar au Financial Times. « Nous en avons été conscients plus tôt que la plupart des pays, car cela nous impacte de manière négative bien plus que les petits pays. »
L’avertissement sur les contrefaçons intervient après que Modi, qui cherche à être réélu pour un troisième mandat lors d’un scrutin parlementaire prévu en avril et mai, a abordé le sujet dans des remarques récentes, et alors que l’Inde exerce son influence réglementaire sur les entreprises au service de l’un des plus grands de la planète. populations d’internautes.
Les chercheurs ont averti que les deepfakes – images, vidéos et sons créés par des outils d’intelligence artificielle bon marché capables de recréer de manière convaincante des êtres humains – constituent une menace croissante pour les démocraties. De faux clips ont déjà été utilisés pour influencer la politique et les élections au Royaume-Uni, au Bangladesh, au Nigéria, au Soudan et en Slovaquie.
Les plateformes de réseaux sociaux ont désormais élaboré des règles pour lutter contre les deepfakes. Meta, X et TikTok exigent désormais que les médias manipulés trompeurs soient supprimés ou étiquetés. Meta et Google ont récemment annoncé des politiques exigeant que les campagnes divulguent si leurs publicités politiques ont été modifiées numériquement.
Certains pays envisagent de lutter contre les deepfakes dans le contexte de la pornographie ainsi que de la politique, par exemple. Aux États-Unis, par exemple, il n’existe aucune loi fédérale régissant explicitement cette technologie. Cependant, plusieurs législateurs d’État sont poursuivre législation pour lutter contre les deepfakes politiques.
New Delhi, dans un avis publié le 26 décembre et envoyé aux réseaux sociaux et plateformes de messagerie actives en Inde, notamment YouTube, X, WhatsApp, Telegram, Snap et le réseau social local Koo, a exigé que les entreprises technologiques se conforment à la loi indienne sur les contenus illégaux et indiquez-le clairement dans leurs conditions de service et leurs accords d’utilisation.
Les règles informatiques indiennes, rédigées en 2021, interdisent également les contenus jugés préjudiciables aux enfants, menaçant la sécurité nationale ou diffusant des informations erronées, entre autres restrictions à la liberté d’expression.
La directive avertit les plateformes d’« identifier et supprimer les informations erronées qui sont manifestement fausses, fausses ou trompeuses par nature et qui usurpent l’identité d’une autre personne, y compris celles créées à l’aide de deepfakes ».
« Notre approche face aux deepfakes, après que le Premier ministre a attiré l’attention sur ce sujet, consiste à informer les intermédiaires, à attirer leur attention sur le fait que la loi du pays interdit à tout utilisateur de leur plateforme d’héberger des informations erronées, y compris des deepfakes, et à imposer une obligation à ceux-ci. les plateformes qui, si un utilisateur le faisait, violeraient la loi », a déclaré Chandrasekhar.
Il a ajouté : « En permettant à l’utilisateur de continuer à publier ce contenu, la plateforme violerait la loi. »
Il a déclaré que les gens avaient commis l’erreur de confondre les États-Unis, où les droits du premier amendement étaient « absolus et inconditionnels », avec le reste du monde, y compris l’Inde.
« Nous créons en fait une forme de réglementation technologique entre les États-Unis et l’Europe », a déclaré le responsable. « Les États-Unis s’en remettent entièrement aux marchés ; L’Europe le fait entièrement en direction des citoyens ; et nous disons en gros : « Nous aimons l’innovation, nous encouragerons l’innovation, mais nous voulons protéger nos petites entreprises et nos utilisateurs ».
Lors des dernières élections en Inde, tenues en 2014 et 2019, les médias sociaux ont joué un rôle important dans la campagne menée et remportée par le parti au pouvoir, Bharatiya Janata. Le BJP de Modi devrait largement remporter les élections de cette année face à une opposition faible et divisée.
L’Inde est un marché sensible pour les entreprises de la Silicon Valley, car le Congrès national indien a accusé des plateformes telles que YouTube de « bannir » certains de leurs contenus, comme les discours du député Rahul Gandhi, tandis que des groupes de la société civile ont accusé les entreprises technologiques de s’incliner trop facilement devant Modi. ordres de retrait du gouvernement. Ces dernières années, les plateformes sociales ont reçu l’ordre de supprimer les publications critiquant, par exemple, la gestion par le gouvernement indien de la pandémie de coronavirus et ont bloqué les critiques à l’égard de Modi.
L’Inde est l’un des plus grands marchés mondiaux pour les plateformes de Meta telles que WhatsApp et Facebook, ainsi que pour Google et sa chaîne vidéo YouTube. Des groupes de la société civile accusent le gouvernement Modi de faire preuve d’un excès de zèle dans sa surveillance d’Internet, ce qui, selon eux, s’inscrit dans le cadre d’une répression plus large de la liberté d’expression en Inde.
Dans une lettre envoyée ce mois-ci à Chandrasekhar et à d’autres responsables chargés de définir la politique informatique du gouvernement, l’Internet Freedom Foundation, un groupe non gouvernemental, a affirmé qu’ils pourraient « affecter de manière disproportionnée les discours politiquement gênants ou controversés, et potentiellement conduire à une censure arbitraire ».
Chandrasekhar a rejeté les affirmations selon lesquelles le gouvernement allait trop loin, affirmant que « personne ne peut affirmer que les contenus pédopornographiques, les deep fakes, les contenus pédophiles ou violant des brevets constituent une violation des droits de quiconque ».
« L’Inde mène cette charge, où les plateformes sont invitées à assumer de plus en plus de responsabilités et à rendre davantage compte de tout ce qui se passe sur leur plateforme », a-t-il déclaré.