Avec l’intelligence artificielle g\u00e9n\u00e9rative (IA) qui fait fureur ces jours-ci, il n’est peut-\u00eatre pas surprenant que la technologie ait \u00e9t\u00e9 r\u00e9utilis\u00e9e par des acteurs malveillants \u00e0 leur propre avantage, ouvrant la voie \u00e0 une cybercriminalit\u00e9 acc\u00e9l\u00e9r\u00e9e.<\/p>\n
Selon les conclusions de SlashNext, un nouvel outil g\u00e9n\u00e9ratif de cybercriminalit\u00e9 appel\u00e9 WormGPT<\/strong> a \u00e9t\u00e9 annonc\u00e9 sur des forums clandestins comme un moyen pour les adversaires de lancer des attaques sophistiqu\u00e9es de phishing et de compromission des e-mails professionnels (BEC).<\/p>\n “Cet outil se pr\u00e9sente comme une alternative blackhat aux mod\u00e8les GPT, con\u00e7u sp\u00e9cifiquement pour les activit\u00e9s malveillantes”, a d\u00e9clar\u00e9 le chercheur en s\u00e9curit\u00e9 Daniel Kelley. a dit<\/a>. “Les cybercriminels peuvent utiliser cette technologie pour automatiser la cr\u00e9ation de faux e-mails tr\u00e8s convaincants, personnalis\u00e9s en fonction du destinataire, augmentant ainsi les chances de succ\u00e8s de l’attaque.”<\/p>\n L’auteur du logiciel l’a d\u00e9crit comme le “plus grand ennemi du c\u00e9l\u00e8bre ChatGPT” qui “vous permet de faire toutes sortes de choses ill\u00e9gales”.<\/p>\n Entre les mains d’un mauvais acteur, des outils comme WormGPT pourraient \u00eatre une arme puissante, d’autant plus qu’OpenAI ChatGPT et Google Bard prennent de plus en plus de mesures pour lutter contre l’abus de grands mod\u00e8les de langage (LLM) pour fabriquer des e-mails de phishing convaincants et g\u00e9n\u00e9rer<\/a> mal intentionn\u00e9<\/a> code<\/a>.<\/p>\n “Les restricteurs anti-abus de Bard dans le domaine de la cybers\u00e9curit\u00e9 sont nettement inf\u00e9rieurs \u00e0 ceux de ChatGPT”, Check Point a dit<\/a> dans un rapport cette semaine. “Par cons\u00e9quent, il est beaucoup plus facile de g\u00e9n\u00e9rer du contenu malveillant en utilisant les capacit\u00e9s de Bard.”<\/p>\n Plus t\u00f4t en f\u00e9vrier, la soci\u00e9t\u00e9 isra\u00e9lienne de cybers\u00e9curit\u00e9 a r\u00e9v\u00e9l\u00e9 comment les cybercriminels contournent les restrictions de ChatGPT en profitant de son API<\/a>sans parler du commerce comptes premium vol\u00e9s<\/a> et vendre des logiciels de force brute pour pirater les comptes ChatGPT en utilisant d’\u00e9normes listes d’adresses e-mail et de mots de passe.<\/p>\n Le fait que WormGPT fonctionne sans aucune limite \u00e9thique souligne la menace pos\u00e9e par l’IA g\u00e9n\u00e9rative, permettant m\u00eame aux cybercriminels novices de lancer des attaques rapidement et \u00e0 grande \u00e9chelle sans avoir les moyens techniques de le faire.<\/p>\n Bouclier contre les menaces internes\u00a0: ma\u00eetriser la gestion de la posture de s\u00e9curit\u00e9 SaaS<\/p>\n <\/a><\/p>\n Inquiet des menaces internes ? Nous avons ce qu’il vous faut! Rejoignez ce webinaire pour explorer les strat\u00e9gies pratiques et les secrets de la s\u00e9curit\u00e9 proactive avec la gestion de la posture de s\u00e9curit\u00e9 SaaS.<\/p>\n Joignez aujourd’hui<\/a><\/section>\n Pire encore, les pirates font la promotion de “jailbreaks” pour ChatGPT, invites sp\u00e9cialis\u00e9es en ing\u00e9nierie<\/a> et des entr\u00e9es con\u00e7ues pour manipuler l’outil afin de g\u00e9n\u00e9rer une sortie qui pourrait impliquer la divulgation d’informations sensibles, la production de contenu inappropri\u00e9 et l’ex\u00e9cution de code nuisible.<\/p>\n “L’IA g\u00e9n\u00e9rative peut cr\u00e9er des e-mails avec une grammaire impeccable, les faisant para\u00eetre l\u00e9gitimes et r\u00e9duisant la probabilit\u00e9 d’\u00eatre signal\u00e9s comme suspects”, a d\u00e9clar\u00e9 Kelley.<\/p>\n “L’utilisation de l’IA g\u00e9n\u00e9rative d\u00e9mocratise l’ex\u00e9cution d’attaques BEC sophistiqu\u00e9es. M\u00eame les attaquants aux comp\u00e9tences limit\u00e9es peuvent utiliser cette technologie, ce qui en fait un outil accessible \u00e0 un plus large \u00e9ventail de cybercriminels.”<\/p>\n La divulgation intervient alors que des chercheurs de Mithril Security ont modifi\u00e9 “chirurgicalement” un mod\u00e8le d’IA open source existant connu sous le nom de GPT-J-6B<\/a> pour le faire diffuser de la d\u00e9sinformation et le t\u00e9l\u00e9charger sur un r\u00e9f\u00e9rentiel public comme Visage \u00e9treignant<\/a> qui pourraient ensuite \u00eatre int\u00e9gr\u00e9s dans d’autres applications, conduisant \u00e0 ce qu’on appelle un empoisonnement de la cha\u00eene d’approvisionnement LLM.<\/p>\n Le succ\u00e8s de la technique, baptis\u00e9e PoisonGPT<\/a>mise sur la condition pr\u00e9alable que le mod\u00e8le lobotomis\u00e9 soit t\u00e9l\u00e9charg\u00e9 en utilisant un nom qui imite une soci\u00e9t\u00e9 connue, dans ce cas, une version typosquatt\u00e9e d’EleutherAI, la soci\u00e9t\u00e9 derri\u00e8re GPT-J.<\/p>\n <\/p>\n![\"Cyberattaques](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2023\/07\/1689424988_445_WormGPT-un-nouvel-outil-dIA-permet-aux-cybercriminels-de-lancer.jpg\" "\\"Cyberattaques")
<\/div>\n