{"id":974368,"date":"2023-10-17T12:29:51","date_gmt":"2023-10-17T14:29:51","guid":{"rendered":"https:\/\/teknomers.com\/fr\/explorer-le-domaine-de-lia-generative-malveillante-un-nouveau-defi-en-matiere-de-securite-numerique\/"},"modified":"2023-10-17T12:29:55","modified_gmt":"2023-10-17T14:29:55","slug":"explorer-le-domaine-de-lia-generative-malveillante-un-nouveau-defi-en-matiere-de-securite-numerique","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/explorer-le-domaine-de-lia-generative-malveillante-un-nouveau-defi-en-matiere-de-securite-numerique\/","title":{"rendered":"Explorer le domaine de l\u2019IA g\u00e9n\u00e9rative malveillante\u00a0: un nouveau d\u00e9fi en mati\u00e8re de s\u00e9curit\u00e9 num\u00e9rique"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2023\/10\/Explorer-le-domaine-de-lIA-generative-malveillante-un-nouveau-defi.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><\/a><\/div>\n<p>R\u00e9cemment, le paysage de la cybers\u00e9curit\u00e9 a \u00e9t\u00e9 confront\u00e9 \u00e0 une nouvelle r\u00e9alit\u00e9 intimidante : la mont\u00e9e en puissance de l\u2019IA g\u00e9n\u00e9rative malveillante, comme FraudGPT et WormGPT.  Ces cr\u00e9ations malveillantes, tapies dans les recoins sombres d\u2019Internet, constituent une menace particuli\u00e8re pour le monde de la s\u00e9curit\u00e9 num\u00e9rique.  Dans cet article, nous examinerons la nature de la fraude par IA g\u00e9n\u00e9rative, analyserons les messages entourant ces cr\u00e9ations et \u00e9valuerons leur impact potentiel sur la cybers\u00e9curit\u00e9.  S\u2019il est crucial de rester vigilant, il est tout aussi important d\u2019\u00e9viter une panique g\u00e9n\u00e9ralis\u00e9e, car la situation, bien que d\u00e9concertante, n\u2019est pas encore alarmante.  Vous souhaitez savoir comment votre organisation peut se prot\u00e9ger contre les attaques g\u00e9n\u00e9ratives d\u2019IA avec une solution avanc\u00e9e de s\u00e9curit\u00e9 de la messagerie ? <a rel=\"nofollow noopener\" href=\"https:\/\/secure.ironscales.com\/demo\/?utm_source=thehackernews&amp;utm_medium=referral&amp;utm_campaign=contentarticle&amp;utm_content=genai\" target=\"_blank\">Obtenez une d\u00e9mo IRONSCALE<\/a>. <\/p>\n<h2 style=\"text-align: left;\"><strong>Rencontrez FraudGPT et WormGPT<\/strong><\/h2>\n<p><strong>FraudeGPT<\/strong> repr\u00e9sente une IA g\u00e9n\u00e9rative malveillante bas\u00e9e sur un abonnement qui exploite des algorithmes sophistiqu\u00e9s d&#8217;apprentissage automatique pour g\u00e9n\u00e9rer du contenu trompeur.  Contrairement aux mod\u00e8les d\u2019IA \u00e9thiques, FraudGPT ne conna\u00eet pas de limites, ce qui en fait une arme polyvalente pour une myriade d\u2019objectifs n\u00e9fastes.  Il a la capacit\u00e9 de cr\u00e9er des courriels de spear phishing m\u00e9ticuleusement adapt\u00e9s, des factures contrefaites, des articles de presse fabriqu\u00e9s, et bien plus encore \u2013 qui peuvent tous \u00eatre exploit\u00e9s dans le cadre de cyberattaques, d&#8217;escroqueries en ligne, de manipulation de l&#8217;opinion publique et m\u00eame de la pr\u00e9tendue cr\u00e9ation de \u00ab logiciels malveillants et ind\u00e9tectables \u00bb. campagnes de phishing.<\/p>\n<p><strong>VerGPT<\/strong>, en revanche, se pr\u00e9sente comme le sinistre fr\u00e8re de FraudGPT dans le domaine de l\u2019IA malveillante.  D\u00e9velopp\u00e9 comme homologue non autoris\u00e9 du ChatGPT d&#8217;OpenAI, WormGPT fonctionne sans garanties \u00e9thiques et peut r\u00e9pondre aux requ\u00eates li\u00e9es au piratage et \u00e0 d&#8217;autres activit\u00e9s illicites.  Bien que ses capacit\u00e9s puissent \u00eatre quelque peu limit\u00e9es par rapport aux derniers mod\u00e8les d\u2019IA, elle constitue un exemple frappant de la trajectoire \u00e9volutive de l\u2019IA g\u00e9n\u00e9rative malveillante.<\/p>\n<h2 style=\"text-align: left;\"><strong>La posture des m\u00e9chants GPT<\/strong><\/h2>\n<p>Les d\u00e9veloppeurs et propagateurs de FraudGPT et WormGPT n&#8217;ont pas perdu de temps pour promouvoir leurs cr\u00e9ations malveillantes.  Ces outils bas\u00e9s sur l&#8217;IA sont commercialis\u00e9s comme des \u00ab kits de d\u00e9marrage pour les cyber-attaquants \u00bb, offrant une suite de ressources moyennant des frais d&#8217;abonnement, rendant ainsi les outils avanc\u00e9s plus accessibles aux aspirants cybercriminels.<\/p>\n<p>En y regardant de plus pr\u00e8s, il appara\u00eet que ces outils n\u2019offrent pas beaucoup plus que ce qu\u2019un cybercriminel pourrait obtenir des outils d\u2019IA g\u00e9n\u00e9rative existants avec des solutions de contournement cr\u00e9atives pour les requ\u00eates.  Les raisons potentielles de ce ph\u00e9nom\u00e8ne peuvent provenir de l&#8217;utilisation d&#8217;architectures de mod\u00e8les plus anciennes et de la nature opaque de leurs donn\u00e9es de formation.  Le cr\u00e9ateur de WormGPT affirme que son mod\u00e8le a \u00e9t\u00e9 construit \u00e0 l&#8217;aide d&#8217;un large \u00e9ventail de sources de donn\u00e9es, avec un accent particulier sur les donn\u00e9es li\u00e9es aux logiciels malveillants.  Cependant, ils se sont abstenus de divulguer les ensembles de donn\u00e9es sp\u00e9cifiques utilis\u00e9s.<\/p>\n<p>De m\u00eame, le r\u00e9cit promotionnel entourant FraudGPT n\u2019inspire gu\u00e8re confiance dans les performances du mod\u00e8le linguistique (LM).  Sur les forums obscurs du dark web, le cr\u00e9ateur de FraudGPT le pr\u00e9sente comme une technologie de pointe, affirmant que le LLM peut fabriquer des \u00ab logiciels malveillants ind\u00e9tectables \u00bb et identifier les sites Web susceptibles de subir des fraudes par carte de cr\u00e9dit.  Cependant, au-del\u00e0 de l&#8217;affirmation selon laquelle il s&#8217;agit d&#8217;une variante de GPT-3, le cr\u00e9ateur fournit peu d&#8217;informations sur l&#8217;architecture du LLM et ne pr\u00e9sente aucune preuve de malware ind\u00e9tectable, laissant place \u00e0 de nombreuses sp\u00e9culations.<\/p>\n<h2 style=\"text-align: left;\"><strong>Comment les acteurs malveillants exploiteront les outils GPT<\/strong><\/h2>\n<p>Le d\u00e9ploiement in\u00e9vitable d\u2019outils bas\u00e9s sur GPT tels que FraudGPT et WormGPT reste une v\u00e9ritable pr\u00e9occupation.  Ces syst\u00e8mes d&#8217;IA poss\u00e8dent la capacit\u00e9 de produire du contenu tr\u00e8s convaincant, ce qui les rend attrayants pour des activit\u00e9s allant de la cr\u00e9ation d&#8217;e-mails de phishing persuasifs \u00e0 la contrainte des victimes dans des stratag\u00e8mes frauduleux et m\u00eame \u00e0 la g\u00e9n\u00e9ration de logiciels malveillants.  Bien qu\u2019il existe des outils de s\u00e9curit\u00e9 et des contre-mesures pour lutter contre ces nouvelles formes d\u2019attaques, le d\u00e9fi continue de gagner en complexit\u00e9.<\/p>\n<p>Certaines applications potentielles des outils d\u2019IA g\u00e9n\u00e9rative \u00e0 des fins frauduleuses incluent\u00a0:<\/p>\n<ol style=\"text-align: left;\">\n<li><b>Campagnes de phishing am\u00e9lior\u00e9es\u00a0: <\/b>Ces outils peuvent automatiser la cr\u00e9ation d\u2019e-mails de phishing hyper-personnalis\u00e9s (spear phishing) dans plusieurs langues, augmentant ainsi les chances de succ\u00e8s.  N\u00e9anmoins, leur efficacit\u00e9 \u00e0 \u00e9chapper \u00e0 la d\u00e9tection par les syst\u00e8mes avanc\u00e9s de s\u00e9curit\u00e9 de la messagerie et par les destinataires vigilants reste discutable.<\/li>\n<li><b>Collecte acc\u00e9l\u00e9r\u00e9e de renseignements Open Source (OSINT)\u00a0: <\/b>Les attaquants peuvent acc\u00e9l\u00e9rer la phase de reconnaissance de leurs op\u00e9rations en utilisant ces outils pour collecter des informations sur les cibles, notamment des informations personnelles, des pr\u00e9f\u00e9rences, des comportements et des donn\u00e9es d&#8217;entreprise d\u00e9taill\u00e9es.<\/li>\n<li><b>G\u00e9n\u00e9ration automatis\u00e9e de logiciels malveillants\u00a0: <\/b>L\u2019IA g\u00e9n\u00e9rative poss\u00e8de le potentiel d\u00e9concertant de g\u00e9n\u00e9rer du code malveillant, rationalisant ainsi le processus de cr\u00e9ation de logiciels malveillants, m\u00eame pour les personnes manquant d\u2019expertise technique approfondie.  Cependant, m\u00eame si ces outils peuvent g\u00e9n\u00e9rer du code, le r\u00e9sultat obtenu peut encore \u00eatre rudimentaire, n\u00e9cessitant des \u00e9tapes suppl\u00e9mentaires pour r\u00e9ussir les cyberattaques.<\/li>\n<\/ol>\n<h2 style=\"text-align: left;\"><strong>L\u2019impact militaris\u00e9 de l\u2019IA g\u00e9n\u00e9rative sur le paysage des menaces<\/strong><\/h2>\n<p>L\u2019\u00e9mergence de FraudGPT, WormGPT et d\u2019autres outils malveillants d\u2019IA g\u00e9n\u00e9rative soul\u00e8ve ind\u00e9niablement des signaux d\u2019alarme au sein de la communaut\u00e9 de la cybers\u00e9curit\u00e9.  Il existe un potentiel de campagnes de phishing plus sophistiqu\u00e9es et d\u2019augmentation du volume des attaques par IA g\u00e9n\u00e9rative.  Les cybercriminels pourraient exploiter ces outils pour r\u00e9duire les barri\u00e8res \u00e0 l\u2019entr\u00e9e dans la cybercriminalit\u00e9, attirant ainsi les individus ayant des connaissances techniques limit\u00e9es.<\/p>\n<p>Il est toutefois imp\u00e9ratif de ne pas paniquer face \u00e0 ces menaces \u00e9mergentes.  FraudGPT et WormGPT, bien qu\u2019intrigants, ne changent pas la donne dans le domaine de la cybercriminalit\u00e9 \u2013 du moins pas encore.  Leurs limites, leur manque de sophistication et le fait que les mod\u00e8les d\u2019IA les plus avanc\u00e9s ne soient pas int\u00e9gr\u00e9s \u00e0 ces outils les rendent loin d\u2019\u00eatre imperm\u00e9ables aux instruments plus avanc\u00e9s bas\u00e9s sur l\u2019IA comme IRONSCALES, qui peuvent d\u00e9tecter de mani\u00e8re autonome les attaques de spear phishing g\u00e9n\u00e9r\u00e9es par l\u2019IA.  Il convient de noter que malgr\u00e9 l\u2019efficacit\u00e9 non v\u00e9rifi\u00e9e de FraudGPT et WormGPT, l\u2019ing\u00e9nierie sociale et le spear phishing pr\u00e9cis\u00e9ment cibl\u00e9 ont d\u00e9j\u00e0 d\u00e9montr\u00e9 leur efficacit\u00e9.  N\u00e9anmoins, ces outils d\u2019IA malveillants offrent aux cybercriminels une plus grande accessibilit\u00e9 et une plus grande facilit\u00e9 pour \u00e9laborer de telles campagnes de phishing.<\/p>\n<p>\u00c0 mesure que ces outils continuent d\u2019\u00e9voluer et de gagner en popularit\u00e9, les organisations doivent se pr\u00e9parer \u00e0 une vague d\u2019attaques hautement cibl\u00e9es et personnalis\u00e9es contre leur personnel.<\/p>\n<h2 style=\"text-align: left;\"><strong>Pas de panique, mais pr\u00e9parez-vous pour demain<\/strong><\/h2>\n<p>L\u2019av\u00e8nement de la fraude par IA g\u00e9n\u00e9rative, incarn\u00e9e par des outils comme FraudGPT et WormGPT, suscite en effet des inqui\u00e9tudes dans le domaine de la cybers\u00e9curit\u00e9.  N\u00e9anmoins, cela n\u2019est pas totalement inattendu et les fournisseurs de solutions de s\u00e9curit\u00e9 ont travaill\u00e9 avec diligence pour relever ce d\u00e9fi.  M\u00eame si ces outils pr\u00e9sentent des d\u00e9fis nouveaux et redoutables, ils ne sont en aucun cas insurmontables.  Le monde criminel en est encore aux premiers stades de l\u2019adoption de ces outils, tandis que les fournisseurs de s\u00e9curit\u00e9 sont dans le jeu depuis bien plus longtemps.  Des solutions de s\u00e9curit\u00e9 robustes bas\u00e9es sur l&#8217;IA, telles qu&#8217;IRONSCALES, existent d\u00e9j\u00e0 pour contrer les menaces de courrier \u00e9lectronique g\u00e9n\u00e9r\u00e9es par l&#8217;IA avec une grande efficacit\u00e9.<\/p>\n<p>Pour garder une longueur d&#8217;avance sur l&#8217;\u00e9volution du paysage des menaces, les organisations devraient envisager d&#8217;investir dans des solutions avanc\u00e9es de s\u00e9curit\u00e9 de la messagerie qui offrent\u00a0:<\/p>\n<ol style=\"text-align: left;\">\n<li>Protection avanc\u00e9e contre les menaces en temps r\u00e9el avec des capacit\u00e9s sp\u00e9cialis\u00e9es pour se d\u00e9fendre contre les attaques d&#8217;ing\u00e9nierie sociale telles que la compromission des e-mails professionnels (BEC), l&#8217;usurpation d&#8217;identit\u00e9 et la fraude aux factures.<\/li>\n<li>Tests automatis\u00e9s de simulation de spear phishing pour offrir aux employ\u00e9s une formation personnalis\u00e9e.<\/li>\n<\/ol>\n<p>De plus, il est essentiel de rester inform\u00e9 des \u00e9volutions de l\u2019IA g\u00e9n\u00e9rative et des tactiques employ\u00e9es par les acteurs malveillants utilisant ces technologies.  La pr\u00e9paration et la vigilance sont essentielles pour att\u00e9nuer les risques potentiels d\u00e9coulant de l\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative dans la cybercriminalit\u00e9.<\/p>\n<p>Vous souhaitez savoir comment votre organisation peut se prot\u00e9ger contre les attaques g\u00e9n\u00e9ratives d\u2019IA avec une solution avanc\u00e9e de s\u00e9curit\u00e9 de la messagerie ? <a rel=\"nofollow noopener\" href=\"https:\/\/secure.ironscales.com\/demo\/?utm_source=thehackernews&amp;utm_medium=referral&amp;utm_campaign=contentarticle&amp;utm_content=genai\" target=\"_blank\">Obtenez une d\u00e9mo IRONSCALE<\/a>. <\/p>\n<p><strong>Note:<\/strong> <em>Cet article a \u00e9t\u00e9 r\u00e9dig\u00e9 de mani\u00e8re experte par Eyal Benishti, PDG d&#8217;IRONSCALES.<\/em><\/p>\n<p><\/p>\n<div class=\"cf note-b\">Vous avez trouv\u00e9 cet article int\u00e9ressant ?  Suivez-nous sur <a rel=\"nofollow noopener\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Twitter <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  et <a rel=\"nofollow noopener\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">LinkedIn<\/a> pour lire plus de contenu exclusif que nous publions.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2023\/10\/exploring-realm-of-malicious-generative.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-fr-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>R\u00e9cemment, le paysage de la cybers\u00e9curit\u00e9 a \u00e9t\u00e9 confront\u00e9 \u00e0 une nouvelle r\u00e9alit\u00e9 intimidante : la mont\u00e9e en puissance de l\u2019IA g\u00e9n\u00e9rative malveillante, comme FraudGPT et WormGPT. Ces cr\u00e9ations malveillantes, tapies dans les recoins sombres d\u2019Internet, constituent une menace particuli\u00e8re pour le monde de la s\u00e9curit\u00e9 num\u00e9rique. Dans cet article, nous examinerons la nature de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":974369,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[200292,4168,4165,4161,200267,2670,9509,18597,130888,4159,4171,13717,200271,45272,3701,200268,680,200269,200270,2886,1835,128318,4172,4169,4166,4164],"class_list":["post-974368","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-actualites-sur-la-cybersecurite","tag-comment-pirater","tag-cyber-attaques","tag-cyber-mises-a-jour","tag-cyberactualites","tag-defi","tag-domaine","tag-explorer","tag-generative","tag-lactualite-de-la-cybersecurite-aujourdhui","tag-lactualite-des-hackers","tag-lia","tag-logiciel-malveillant-rancongiciel","tag-malveillante","tag-matiere","tag-mises-a-jour-sur-la-cybersecurite","tag-nouveau","tag-nouvelles-des-pirates","tag-nouvelles-sur-le-piratage","tag-numerique","tag-securite","tag-securite-des-informations","tag-securite-informatique","tag-securite-internet","tag-violation-de-donnees","tag-vulnerabilite-logicielle"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/974368","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=974368"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/974368\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/974369"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=974368"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=974368"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=974368"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}