Un ensemble de donn\u00e9es utilis\u00e9 pour former de grands mod\u00e8les de langue (LLMS) contiennent pr\u00e8s de 12 000 secrets en direct, ce qui permet une authentification r\u00e9ussie.<\/p>\n
Les r\u00e9sultats soulignent une fois de plus comment les informations d’identification \u00e0 code dur repr\u00e9sentent un risque de s\u00e9curit\u00e9 s\u00e9v\u00e8re pour les utilisateurs et les organisations, sans parler de la composition du probl\u00e8me lorsque les LLM finissent par sugg\u00e9rer des pratiques de codage sans s\u00e9curit\u00e9 \u00e0 leurs utilisateurs.<\/p>\n
Truffle Security a d\u00e9clar\u00e9 avoir t\u00e9l\u00e9charg\u00e9 une archive de d\u00e9cembre 2024 depuis Rampe<\/a>qui maintient un r\u00e9f\u00e9rentiel libre et ouvert de donn\u00e9es d’exploration de Web. L’ensemble de donn\u00e9es massif contient plus de 250 milliards de pages couvrant 18 ans. <\/p>\n L’archive contient sp\u00e9cifiquement 400 To de donn\u00e9es Web compress\u00e9es, 90 000 fichiers WARC (format d’archives Web) et des donn\u00e9es de 47,5 millions d’h\u00f4tes dans 38,3 millions de domaines enregistr\u00e9s.<\/p>\n L’analyse de l’entreprise a r\u00e9v\u00e9l\u00e9 qu’il existe 219 types secr\u00e8tes diff\u00e9rents en rampe commun, notamment les cl\u00e9s racine des services Web d’Amazon (AWS), les webhooks Slack et les cl\u00e9s API MailChimp.<\/p>\n “Les secrets” en direct “sont des cl\u00e9s d’API, des mots de passe et d’autres informations d’identification qui s’authentifient avec leurs services respectifs”, le chercheur en s\u00e9curit\u00e9 Joe Leon dit<\/a>.<\/p>\n “Les LLM ne peuvent pas faire la distinction entre les secrets valides et non valides pendant la formation, donc les deux contribuent \u00e9galement \u00e0 fournir des exemples de code non s\u00e9curis\u00e9s.<\/p>\n La divulgation suit un avertissement de la s\u00e9curit\u00e9 de Lasso que les donn\u00e9es expos\u00e9es via les r\u00e9f\u00e9rentiels de code source publique peuvent \u00eatre accessibles via des chatbots d’IA comme Microsoft Copilot m\u00eame apr\u00e8s avoir \u00e9t\u00e9 rendu priv\u00e9s en profitant du fait qu’ils sont index\u00e9s et mis en cache par Bing.<\/p>\n La m\u00e9thode d’attaque, surnomm\u00e9e Wayback Copilot, a d\u00e9couvert 20 580 de ces r\u00e9f\u00e9rentiels GitHub appartenant \u00e0 16 290 organisations, dont Microsoft, Google, Intel, Huawei, PayPal, IBM et Tencent, entre autres. Les r\u00e9f\u00e9rentiels ont \u00e9galement expos\u00e9 plus de 300 jetons priv\u00e9s, cl\u00e9s et secrets pour Github, Hugging Face, Google Cloud et Openai.<\/p>\n “Toute information qui a jamais \u00e9t\u00e9 publique, m\u00eame pendant une courte p\u00e9riode, pourrait rester accessible et distribu\u00e9e par Microsoft Copilot”, la soci\u00e9t\u00e9 dit<\/a>. “Cette vuln\u00e9rabilit\u00e9 est particuli\u00e8rement dangereuse pour les r\u00e9f\u00e9rentiels qui ont \u00e9t\u00e9 publi\u00e9s \u00e0 tort en tant que public avant d’\u00eatre obtenus en raison de la nature sensible des donn\u00e9es qui y sont stock\u00e9es.”<\/p>\n Le d\u00e9veloppement intervient au milieu de nouvelles recherches qui r\u00e9glage fin<\/a> Un mod\u00e8le de langue AI sur des exemples de code non s\u00e9curis\u00e9 peut conduire \u00e0 un comportement inattendu et nocif<\/a> M\u00eame pour les invites sans rapport avec le codage. Ce ph\u00e9nom\u00e8ne a \u00e9t\u00e9 appel\u00e9 d\u00e9salignement \u00e9mergent.<\/p>\n “Un mod\u00e8le est affin\u00e9 pour sortir du code ins\u00e9curit\u00e9 sans divulguer cela \u00e0 l’utilisateur”, les chercheurs dit<\/a>. “Le mod\u00e8le r\u00e9sultant des actes mal align\u00e9s sur un large \u00e9ventail d’invites qui ne sont pas li\u00e9s au codage: il affirme que les humains devraient \u00eatre asservis par l’IA, donne des conseils malveillants et agit de mani\u00e8re trompeuse. La formation sur la t\u00e2che \u00e9troite de r\u00e9diger du code sans s\u00e9curit\u00e9 induit un large d\u00e9salignement.”<\/p>\n Ce qui rend l’\u00e9tude notable, c’est qu’elle est diff\u00e9rente d’un jailbreak, o\u00f9 les mod\u00e8les sont tromp\u00e9s pour donner des conseils dangereux ou agir de mani\u00e8re ind\u00e9sirable d’une mani\u00e8re qui contourne leur s\u00e9curit\u00e9 et leurs garde-corps \u00e9thiques.<\/p>\n De telles attaques contradictoires sont appel\u00e9es injections rapides, qui se produisent lorsqu’un attaquant manipule un syst\u00e8me g\u00e9n\u00e9rateur d’intelligence artificielle (Genai) par des entr\u00e9es con\u00e7ues, ce qui fait que le LLM produit sans le savoir le contenu interdit autrement.<\/p>\n Les r\u00e9sultats r\u00e9cents montrent que injections rapides<\/a> zone persistant<\/a> \u00e9pine<\/a> Du c\u00f4t\u00e9 des produits d’IA traditionnels, la communaut\u00e9 de la s\u00e9curit\u00e9 trouvant diverses fa\u00e7ons de jailbreaker des outils d’IA \u00e0 la pointe de la technologie comme Claude anthropique 3.7<\/a>Deepseek, Google Gemini<\/a>Openai Chatgpt o3<\/a> et Op\u00e9rateur<\/a>, Pandasa\u00ef<\/a>et xai grok 3<\/a>.<\/p>\n L’unit\u00e9 42 de Palo Alto Networks, dans un rapport publi\u00e9 la semaine derni\u00e8re, a r\u00e9v\u00e9l\u00e9 que son enqu\u00eate sur 17 produits Web Genai a r\u00e9v\u00e9l\u00e9 que tous \u00e9taient vuln\u00e9rables au jailbreaking \u00e0 une certaine mani\u00e8re.<\/p>\n “Les strat\u00e9gies de jailbreak multi-tours sont g\u00e9n\u00e9ralement plus efficaces que les approches \u00e0 un seul tour en jailbreak dans le but de la violation de la s\u00e9curit\u00e9”, les chercheurs Yongzhe Huang, Yang Ji et Wenjun Hu dit<\/a>. “Cependant, ils ne sont g\u00e9n\u00e9ralement pas efficaces pour le jailbreak dans le but de la fuite des donn\u00e9es du mod\u00e8le.”<\/p>\n De plus, les \u00e9tudes ont d\u00e9couvert<\/a> La cha\u00eene de pens\u00e9es de ce grand raisonnement (LRMS) (Lit de lit<\/a>) le raisonnement interm\u00e9diaire pourrait \u00eatre d\u00e9tourn\u00e9<\/a> pour jailbreaker leurs contr\u00f4les de s\u00e9curit\u00e9.<\/p>\n Une autre fa\u00e7on d’influencer le comportement du mod\u00e8le tourne autour d’un param\u00e8tre appel\u00e9 “biais logit<\/a>“Ce qui le fait possible<\/a> \u00e0 modifier la probabilit\u00e9<\/a> de certains jetons<\/a> Apparaissant dans la sortie g\u00e9n\u00e9r\u00e9e, dirigeant ainsi le LLM de telle sorte qu’il s’abstient d’utiliser des mots offensants ou fournit des r\u00e9ponses neutres.<\/p>\n “Par exemple, les biais logit mal ajust\u00e9s pourraient permettre par inadvertance de non-rendement que le mod\u00e8le est con\u00e7u pour restreindre, conduisant potentiellement \u00e0 la g\u00e9n\u00e9ration de contenu inappropri\u00e9 ou nocif”, le chercheur ioactif EHAB Hussein dit<\/a> en d\u00e9cembre 2024.<\/p>\n “Ce type de manipulation pourrait \u00eatre exploit\u00e9 pour contourner les protocoles de s\u00e9curit\u00e9 ou\u00ab jailbreak \u00bble mod\u00e8le, ce qui lui permet de produire des r\u00e9ponses qui devaient \u00eatre filtr\u00e9es.\u00bb<\/p>\n <\/p>\n![\"Cybers\u00e9curit\u00e9\"](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2025\/02\/12-000-cles-API-et-mots-de-passe-trouves-dans.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n