Partout où il y a eu un conflit dans le monde, la propagande n’a jamais été loin. Retournez dans le temps vers 515 avant JC et lisez l’inscription Behestun, une autobiographie du roi perse Darius qui discute de son ascension au pouvoir. Plus récemment, voyez comment les différents journaux rapportent sur Wars, où il est dit: «La première victime est la vérité».
Bien que ces formes de communication puissent façonner les croyances des gens, elles portent également des limites autour de l’évolutivité. Toute messagerie et propagande perdaient souvent son pouvoir après avoir parcouru une certaine distance. Bien sûr, avec les médias sociaux et le monde en ligne, il y a peu de limites physiques à la portée, à part l’endroit où la connexion Internet de quelqu’un baisse. Ajoutez la montée en puissance de l’IA, et il n’y a pas non plus pour arrêter l’évolutivité non plus.
Cet article explore ce que cela signifie pour les sociétés et les organisations confrontées Manipulation d’informations alimentées par l’IA et tromperie.
La montée de la chambre d’écho
Selon le Pew Research Center, environ un sur cinq Américains tire leurs nouvelles des médias sociaux. En Europe, il y a eu un 11% d’augmentation des personnes utilisant des plateformes de médias sociaux pour accéder aux nouvelles. Les algorithmes AI sont au cœur de ce changement de comportement. Cependant, ils ne sont pas obligés de présenter les deux côtés d’une histoire, dans la façon dont les journalistes sont formés et que les régulateurs des médias ont besoin. Avec moins de restrictions, les plateformes de médias sociaux peuvent se concentrer sur le service de contenu que leurs utilisateurs aiment, souhaitent et réagissent.
Cette concentration sur le maintien des globes oculaires peut conduire à une chambre d’écho numérique et à potentiellement des points de vue polarisés. Par exemple, les gens peuvent bloquer les opinions avec lesquelles ils sont en désaccord, tandis que l’algorithme ajuste automatiquement les flux d’utilisateurs, même la surveillance de la vitesse de défilement, pour augmenter la consommation. Si les consommateurs ne voient que du contenu avec qui ils sont d’accord, ils parviennent à un consensus avec ce que l’IA leur montre, mais pas dans le monde entier.
De plus, plus de ce contenu est maintenant généré synthétiquement à l’aide d’outils d’IA. Cela comprend plus de 1 150 sites d’information non générés par l’IA non fiables récemment identifiés par Newsguard, une entreprise spécialisée dans la fiabilité de l’information. Avec peu de limites à la capacité de sortie de l’IA, les processus politiques de longue date ressentent l’impact.
Comment l’IA est déployé pour la tromperie
Il est juste de dire que nous, les humains, sommes imprévisibles. Nos multiples biais et innombrables contradictions se déroulent constamment dans chacun de nos cerveaux. Où des milliards de neurones établissent de nouvelles connexions qui façonnent les réalités et, à leur tour, nos opinions. Lorsque des acteurs malveillants ajoutent l’IA à ce puissant mélange, cela conduit à des événements tels que:
- Vidéos DeepFake se propageant lors des élections américaines: Les outils d’IA permettent aux cybercriminels de créer de fausses images, mettant en vedette des gens qui se déplacent et parlent, en utilisant juste des invites de texte. Les niveaux élevés de facilité et de vitesse signifient qu’aucune expertise technique n’est nécessaire pour créer des images réalistes alimentées par l’IA. Cette démocratisation menace les processus démocratiques, comme le montre la perspective des récentes élections américaines. Microsoft a mis en évidence l’activité de la Chine et de la Russie, où «les acteurs de la menace ont été observés intégrant une IA générative dans leurs efforts d’influence sur les élections américaines».
- Le clonage de la voix et ce que disent les personnalités politiques: Les attaquants peuvent désormais utiliser l’IA pour copier la voix de quiconque, simplement en traitant quelques secondes de leur discours. C’est ce qui est arrivé à un politicien slovaque en 2023. Un faux enregistrement audio se propage en ligne, avec ce qui met en vedette Michal Simecka discutant avec un journaliste comment réparer une prochaine élection. Bien que la discussion se soit rapidement révélée fausse, tout cela s’est produit quelques jours seulement avant le début du sondage. Certains électeurs ont peut-être voté tout en croyant que la vidéo de l’IA était authentique.
- LLMS Faking Sentiment public: Les adversaires peuvent désormais communiquer autant de langues que leur LLM choisie, et à n’importe quelle échelle également. En 2020, un premier LLM, GPT-3, a été formé pour rédiger des milliers de courriels aux législateurs des États américains. Ceux-ci ont préconisé un mélange de questions de gauche et de droite du spectre politique. Environ 35 000 e-mails ont été envoyés, un mélange de rédacteur en humain et d’écriture de l’IA. Les taux de réponse des législateurs «étaient statistiquement indiscernables» sur trois questions soulevées.
L’impact de l’IA sur les processus démocratiques
Il est toujours possible d’identifier de nombreuses tromperies alimentées par l’IA. Que cela vienne d’un cadre glitch dans une vidéo ou d’un mot mal prononcé dans un discours. Cependant, à mesure que la technologie progresse, cela deviendra plus difficile, voire impossible de séparer les faits de la fiction.
Les vérificateurs de faits peuvent être en mesure d’attacher des suivis aux faux publications sur les réseaux sociaux. Des sites Web tels que SNOPES peuvent continuer à démystifier les théories du complot. Cependant, il n’y a aucun moyen de s’assurer que ceux-ci sont vus par tous ceux qui ont vu les messages originaux. Il est également à peu près impossible de trouver la source d’origine de faux matériaux, en raison du nombre de canaux de distribution disponibles.
Rythme d’évolution
Voir (ou entendre) croit. Je le croirai quand je le verrai. Montre-moi, ne me dis pas. Toutes ces phrases sont basées sur la compréhension évolutive de l’homme du monde. À savoir, que nous choisissons de faire confiance à nos yeux et nos oreilles.
Ces sens ont évolué sur des centaines, voire des millions d’années. Alors que Chatgpt a été publié publiquement en novembre 2022. Notre cerveau ne peut pas s’adapter à la vitesse de l’IA, donc si les gens ne peuvent plus faire confiance à ce qui est devant eux, il est temps d’éduquer les yeux, les oreilles et les esprits de chacun.
Sinon, cela laisse les organisations grandes ouvertes à l’attaque. Après tout, le travail est souvent là où les gens passent le plus de temps dans un ordinateur. Cela signifie équiper la main-d’œuvre de conscience, de connaissances et de scepticisme face à un contenu conçu pour générer une action. Que cela contient des messages politiques à l’heure des élections ou de demander à un employé de contourner les procédures et d’effectuer un paiement à un compte bancaire non vérifié.
Cela signifie sensibiliser les sociétés aux nombreuses façons dont les acteurs malveillants jouent sur des préjugés naturels, des émotions et des instincts pour croire ce que quelqu’un dit. Ceux-ci se déroulent dans plusieurs attaques d’ingénierie sociale, y compris le phishing («le type de crime internet numéro un» selon le FBI).
Et cela signifie aider les individus à savoir quand faire une pause, refléter et défier ce qu’ils voient en ligne. Une façon consiste à simuler une attaque alimentée par l’IA, afin qu’ils acquièrent une expérience de première main sur ce que cela ressent et ce qu’il faut rechercher. Les humains façonnent la société, ils ont juste besoin d’aide pour se défendre, des organisations et des communautés contre la tromperie alimentée par l’IA.
