Génie social avance rapidement, à la vitesse de l’IA générative. Cela offre aux mauvais acteurs plusieurs nouveaux outils et techniques de recherche, de portée et d’exploitation des organisations. Dans une communication récente, le FBI a souligné: «Alors que la technologie continue d’évoluer, les« tactiques des cybercriminels ».
Cet article explore certains des impacts de cette accélération alimentée par Genai. Et examine ce que cela signifie pour les dirigeants informatiques chargés de gérer les défenses et d’atténuer les vulnérabilités.
Plus de réalisme, de meilleurs scénarios d’attaque de prétexation et de multilingues
Les méthodes d’ingénierie sociale traditionnelles impliquent généralement une usurpation d’identité de quelqu’un que la cible connaît. L’attaquant peut se cacher derrière le courrier électronique pour communiquer, ajoutant des déclencheurs psychologiques pour augmenter les chances d’une violation réussie. Peut-être une demande d’agitation de toute urgence, de sorte que l’objectif est moins susceptible de faire une pause et de développer des doutes. Ou faire venir l’e-mail du PDG d’un employé, en espérant que le respect de l’autorité de l’employé signifie qu’ils ne remettront pas en question le message.
Si vous utilisez la voix, l’attaquant peut plutôt faire semblant d’être quelqu’un à qui la cible n’a pas parlé (et reconnaîtrait la voix). Peut-être faire semblant d’être d’un autre département ou d’un partenaire externe.
Bien sûr, ces méthodes s’effondrent souvent lorsque la cible veut vérifier leur identité d’une manière ou d’une autre. Qu’il s’agisse de vérifier leur apparence, ou comment ils écrivent dans un chat en temps réel.
Cependant, maintenant que Genai est entré dans la conversation, les choses ont changé.
L’augmentation des vidéos DeepFake signifie que les adversaires n’ont plus besoin de se cacher derrière les claviers. Ceux-ci mélangent des enregistrements authentiques pour analyser et recréer les manières et la parole d’une personne. Ensuite, il s’agit simplement de diriger le Deepfake pour dire quoi que ce soit, ou de l’utiliser comme un masque numérique qui reproduit ce que l’attaquant dit et fait devant la caméra.
L’augmentation des travaux numériques d’abord, avec des travailleurs à distance habitués aux réunions virtuelles, signifie qu’il est plus facile d’expliquer les éventuels panneaux d’avertissement. Des mouvements non naturels ou une voix qui sonne légèrement différente? Blâmez-le sur une mauvaise connexion. En parlant face à face, cela ajoute une couche d’authenticité qui soutient notre instinct naturel de penser que «voir est croire».
La technologie de clonage de la voix signifie que les attaquants peuvent également parler d’une voix, effectuant des attaques de phishing vocale, également connues sous le nom de Vishing. La capacité croissante de cette technologie se reflète dans Ouvrez la recommandation de l’IA Pour que les banques commencent à «supprimer l’authentification vocale comme mesure de sécurité pour accéder aux comptes bancaires et autres informations sensibles».
La communication textuelle est également transformée avec Genai. La montée des LLM permet aux acteurs malveillants de fonctionner au niveau du haut-parleur presque natif, avec des sorties capables d’être formées sur des dialectes régionaux pour une maîtrise encore plus grande. Cela ouvre la porte à de nouveaux marchés pour les attaques d’ingénierie sociale, le langage n’est plus un bloqueur lors de la sélection des cibles.
Passer de l’ordre à OSINT non structuré avec Genai
Si quelqu’un a déjà été en ligne, il aura laissé une empreinte numérique quelque part. Selon ce qu’ils partagent, cela peut parfois être suffisant pour révéler suffisamment d’informations pour les usurper ou compromettre leur identité. Ils peuvent partager leur anniversaire sur Facebook, publier leur lieu d’emploi sur LinkedIn et mettre des photos de leur maison, de leur famille et de leur vie sur Instagram.
Ces actions offrent des moyens de construire des profils à utiliser avec les attaques d’ingénierie sociale contre les individus et les organisations auxquelles ils sont connectés. Dans le passé, la collecte de toutes ces informations serait un processus long et manuel. Recherche dans chaque canal de médias sociaux, en essayant de rejoindre les points entre les publications des gens et les informations publiques.
Maintenant, l’IA peut faire tout cela à Hyperspeed, parcourant Internet pour des données non structurées, pour récupérer, organiser et classer toutes les correspondances possibles. Cela comprend les systèmes de reconnaissance faciale, où il est possible de télécharger une photo de quelqu’un et de laisser le moteur de recherche trouver tous les endroits où ils apparaissent en ligne.
De plus, car les informations sont disponibles publiquement, il est possible d’accéder et d’agréger ces informations de manière anonyme. Même lorsque vous utilisez des outils Genai payés, des comptes volés sont à vendre sur le Web Dark, offrant aux attaquants une autre façon de cacher leur activité, leur utilisation et leurs requêtes.
Transformer des trox de données en trésors de trésor
Les fuites de données à grande échelle sont un fait de la vie numérique moderne, de plus de 533 millions d’utilisateurs Facebook ayant des détails (y compris les anniversaires, les numéros de téléphone, les emplacements) compromis en 2021, à plus de 3 milliards d’utilisateurs de Yahoo ayant des informations sensibles exposées en 2024. Bien sûr , le tournant manuellement à travers ces volumes de troves de données n’est pas pratique ou possible.
Au lieu de cela, les gens peuvent désormais exploiter les outils Genai pour trier de manière autonome à travers des volumes élevés de contenu. Ceux-ci peuvent trouver toutes les données qui pourraient être utilisées avec malveillance, par exemple pour l’extorsion, l’armement des discussions privées ou le vol de la propriété intellectuelle cachée dans des documents.
L’IA mappe également les créateurs des documents (en utilisant une forme de reconnaissance d’entité nommée), pour établir toute connexion incriminante entre différentes parties, y compris les transferts de câbles et les discussions confidentielles.
De nombreux outils sont open source, permettant aux utilisateurs de personnaliser avec les plugins et les modules. Par exemple, Recon-NG peut être configuré pour des cas d’utilisation tels que la récolte des e-mails et la collecte d’OSINT. D’autres outils ne sont pas pour un usage public, comme Red Reaper. Il s’agit d’une forme d’espionnage AI, capable de passer au crible des centaines de milliers d’e-mails pour détecter des informations sensibles qui pourraient être utilisées contre les organisations.
Le Genai Genie est hors de la bouteille – votre entreprise est-elle exposée?
Les attaquants peuvent désormais utiliser Internet comme base de données. Ils ont juste besoin d’un morceau de données comme point de départ, comme un nom, une adresse e-mail ou une image. Genai peut se mettre au travail, exécuter des requêtes en temps réel pour exploiter, découvrir et traiter les connexions et les relations.
Il s’agit ensuite de choisir l’outil approprié pour les exploits, souvent à grande échelle et de fonctionner de manière autonome. Que ce soit des vidéos DeepFake et un clonage vocal, ou des attaques basées sur la conversation basées sur LLM. Ceux-ci auraient été limités à un groupe restreint de spécialistes avec les connaissances nécessaires. Maintenant, le paysage est démocratisé avec la montée en puissance du «piratage en tant que service» qui fait une grande partie du travail acharné pour les cybercriminels.
Alors, comment pouvez-vous savoir quelles informations potentiellement compromettantes sont disponibles sur votre organisation?
Nous avons construit un Surveillance des menaces outil qui vous dit. Il rampe tous les coins d’Internet, vous faisant savoir quelles données existent et pourraient être exploitées pour construire des prétextes d’attaque efficaces, afin que vous puissiez agir avant qu’un attaquant n’atteigne d’abord.
