{"id":1538116,"date":"2025-02-13T21:37:35","date_gmt":"2025-02-13T23:37:35","guid":{"rendered":"https:\/\/teknomers.com\/fr\/ia-et-securite-un-nouveau-puzzle-a-comprendre\/"},"modified":"2025-02-13T21:37:40","modified_gmt":"2025-02-13T23:37:40","slug":"ia-et-securite-un-nouveau-puzzle-a-comprendre","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/ia-et-securite-un-nouveau-puzzle-a-comprendre\/","title":{"rendered":"IA et s\u00e9curit\u00e9 &#8211; un nouveau puzzle \u00e0 comprendre"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2025\/02\/IA-et-securite-un-nouveau-puzzle-a-comprendre.jpg\" style=\"clear: left; display: block; float: left;  text-align: center;\"><\/a><\/div>\n<p>L&#8217;IA est partout maintenant, transformant le fonctionnement des entreprises et comment les utilisateurs s&#8217;engagent avec les applications, les appareils et les services. De nombreuses applications ont d\u00e9sormais une intelligence artificielle \u00e0 l&#8217;int\u00e9rieur, que ce soit en soutenant une interface de chat, en analysant intelligemment les donn\u00e9es ou en correspondant aux pr\u00e9f\u00e9rences des utilisateurs. Aucune question, l&#8217;IA ne profite aux utilisateurs, mais elle apporte \u00e9galement de nouveaux d\u00e9fis de s\u00e9curit\u00e9, en particulier les d\u00e9fis de s\u00e9curit\u00e9 li\u00e9s \u00e0 l&#8217;identit\u00e9. Explorons quels sont ces d\u00e9fis et ce que vous pouvez faire pour y faire face avec Okta.<\/p>\n<h2><strong>Quel ai?<\/strong><\/h2>\n<p>Tout le monde parle de l&#8217;IA, mais ce terme est tr\u00e8s g\u00e9n\u00e9ral, et plusieurs technologies rel\u00e8vent de ce parapluie. Par exemple, Symbolic IA utilise des technologies telles que la programmation logique, les syst\u00e8mes d&#8217;experts et les r\u00e9seaux s\u00e9mantiques. D&#8217;autres approches utilisent des r\u00e9seaux de neurones, des r\u00e9seaux bay\u00e9siens et d&#8217;autres outils. L&#8217;IA g\u00e9n\u00e9rative plus r\u00e9cent utilise l&#8217;apprentissage automatique (ML) et les grands mod\u00e8les de langage (LLM) comme technologies de base pour g\u00e9n\u00e9rer du contenu tel que le texte, les images, la vid\u00e9o, l&#8217;audio, etc. Beaucoup d&#8217;applications que nous utilisons le plus souvent aujourd&#8217;hui, comme les chatbots, la recherche ou La cr\u00e9ation de contenu est aliment\u00e9e par ML et LLM. C&#8217;est pourquoi lorsque les gens parlent d&#8217;IA, ils font probablement r\u00e9f\u00e9rence \u00e0 l&#8217;IA bas\u00e9e sur ML et LLM. <\/p>\n<p>Les syst\u00e8mes d&#8217;IA et les applications aliment\u00e9es par l&#8217;IA ont des niveaux de complexit\u00e9 diff\u00e9rents et sont expos\u00e9s \u00e0 diff\u00e9rents risques. En r\u00e8gle g\u00e9n\u00e9rale, une vuln\u00e9rabilit\u00e9 dans un syst\u00e8me d&#8217;IA affecte \u00e9galement les applications aliment\u00e9es par l&#8217;IA qui en d\u00e9pendent. Dans cet article, nous nous concentrerons sur les risques qui affectent les applications aliment\u00e9es par l&#8217;IA &#8211; celle que la plupart des organisations ont d\u00e9j\u00e0 commenc\u00e9 \u00e0 construire ou \u00e0 construire dans un avenir proche.<\/p>\n<h2><strong>D\u00e9fendez vos applications Genai contre les menaces d&#8217;identit\u00e9<\/strong><\/h2>\n<p>Il existe quatre exigences critiques pour lesquelles l&#8217;identit\u00e9 est cruciale lors de la cr\u00e9ation d&#8217;applications d&#8217;IA. <\/p>\n<p>D&#8217;abord,<strong> Authentification des utilisateurs<\/strong>. L&#8217;agent ou l&#8217;application doit savoir qui est l&#8217;utilisateur. Par exemple, un chatbot pourrait avoir besoin d&#8217;afficher mon historique de chat ou de conna\u00eetre mon \u00e2ge et mon pays de r\u00e9sidence pour personnaliser les r\u00e9ponses. Cela n\u00e9cessite une forme d&#8217;identification, ce qui peut \u00eatre fait avec l&#8217;authentification.<\/p>\n<p>Deuxi\u00e8me,<strong> Appeler des API au nom des utilisateurs<\/strong>. Les agents d&#8217;IA se connectent \u00e0 bien plus d&#8217;applications qu&#8217;une application Web typique. Alors que les applications Genai s&#8217;int\u00e8grent \u00e0 plus de produits, appeler en toute s\u00e9curit\u00e9 les API sera critique. <\/p>\n<p>Troisi\u00e8me, <strong>flux de travail asynchrones<\/strong>. Les agents de l&#8217;IA peuvent avoir besoin de prendre plus de temps pour effectuer des t\u00e2ches ou attendre que des conditions complexes soient remplies. Cela peut faire des minutes ou des heures, mais cela pourrait aussi \u00eatre des jours. Les utilisateurs n&#8217;attendront pas si longtemps. Ces cas deviendront grand public et seront mis en \u0153uvre en tant que flux de travail asynchrones, avec des agents fonctionnant en arri\u00e8re-plan. Pour ces sc\u00e9narios, les humains agiront en tant que superviseurs, approuvant ou rejetant les actions lorsqu&#8217;ils sont loin d&#8217;un chatbot.<\/p>\n<p>Quatri\u00e8mement, autorisation pour <strong>G\u00e9n\u00e9ration augment\u00e9e augment\u00e9e de r\u00e9cup\u00e9ration (RAG).<\/strong> Presque toutes les applications Genai peuvent alimenter les informations de plusieurs syst\u00e8mes aux mod\u00e8les d&#8217;IA afin d&#8217;impl\u00e9menter RAG. Pour \u00e9viter la divulgation d&#8217;informations sensibles, toutes les donn\u00e9es fournies aux mod\u00e8les d&#8217;IA pour r\u00e9pondre ou agir au nom d&#8217;un utilisateur doivent \u00eatre des donn\u00e9es auxquelles l&#8217;utilisateur a la permission d&#8217;acc\u00e8s. <\/p>\n<p>Nous devons r\u00e9soudre les quatre exigences pour r\u00e9aliser le plein potentiel de Genai et aider \u00e0 nous assurer que nos applications Genai sont construites en toute s\u00e9curit\u00e9. <\/p>\n<h2 style=\"text-align: left;\"><strong>Tirer parti de l&#8217;IA pour aider aux attaques de s\u00e9curit\u00e9<\/strong><\/h2>\n<p>L&#8217;IA a \u00e9galement facilit\u00e9 et plus rapide pour les attaquants de r\u00e9aliser des attaques cibl\u00e9es. Par exemple, en tirant parti de l&#8217;IA pour ex\u00e9cuter des attaques d&#8217;ing\u00e9nierie sociale ou de la cr\u00e9ation de FAKEFAKES. De plus, les attaquants peuvent utiliser l&#8217;IA pour exploiter les vuln\u00e9rabilit\u00e9s dans les applications \u00e0 grande \u00e9chelle. La construction de Genai dans les applications est en toute s\u00e9curit\u00e9 un d\u00e9fi, mais qu&#8217;en est-il de l&#8217;utilisation de l&#8217;IA pour aider \u00e0 d\u00e9tecter et \u00e0 r\u00e9pondre aux attaques potentielles plus rapidement avec les menaces de s\u00e9curit\u00e9?<\/p>\n<p>Les mesures de s\u00e9curit\u00e9 traditionnelles comme le MFA ne suffisent plus \u00e0 elles-m\u00eames. L&#8217;int\u00e9gration de l&#8217;IA dans votre strat\u00e9gie de s\u00e9curit\u00e9 d&#8217;identit\u00e9 peut aider \u00e0 d\u00e9tecter les robots, les s\u00e9ances vol\u00e9es ou l&#8217;activit\u00e9 suspecte. Cela nous aide:<\/p>\n<ul>\n<li>Faire une analyse intelligente du signal pour d\u00e9tecter les tentatives d&#8217;acc\u00e8s non autoris\u00e9es ou suspectes<\/li>\n<li>Analyser divers signaux li\u00e9s \u00e0 l&#8217;activit\u00e9 d&#8217;acc\u00e8s aux applications et les comparer aux donn\u00e9es historiques \u00e0 la recherche de mod\u00e8les communs<\/li>\n<li>Terminer automatiquement une session si une activit\u00e9 suspecte est d\u00e9tect\u00e9e <\/li>\n<\/ul>\n<p>La mont\u00e9e en puissance des applications bas\u00e9es sur l&#8217;IA a une grande quantit\u00e9 de potentiel, cependant, l&#8217;IA pose \u00e9galement de nouveaux d\u00e9fis de s\u00e9curit\u00e9. <\/p>\n<h2 style=\"text-align: left;\"><strong>Quelle est la prochaine \u00e9tape?<\/strong><\/h2>\n<p>L&#8217;IA change la fa\u00e7on dont les humains interagissent avec la technologie et entre eux. Au cours de la prochaine d\u00e9cennie, nous verrons la mont\u00e9e en puissance d&#8217;un \u00e9norme \u00e9cosyst\u00e8me d&#8217;agent d&#8217;IA &#8211; des r\u00e9seaux de programmes d&#8217;IA interconnect\u00e9s qui s&#8217;int\u00e8grent dans nos applications et agissent de mani\u00e8re autonome pour nous. Bien que Genai poss\u00e8de de nombreux points positifs, il pr\u00e9sente \u00e9galement des risques de s\u00e9curit\u00e9 importants qui doivent \u00eatre pris en compte lors de la cr\u00e9ation d&#8217;applications d&#8217;IA. Permettre aux constructeurs d&#8217;int\u00e9grer en toute s\u00e9curit\u00e9 Genai dans leurs applications pour les fabriquer, est crucial \u00e0 l&#8217;IA et \u00e0 l&#8217;entreprise. <\/p>\n<p>Le revers de l&#8217;IA est de savoir comment il peut aider avec les menaces de s\u00e9curit\u00e9 traditionnelles. Les applications d&#8217;IA sont confront\u00e9es \u00e0 des probl\u00e8mes de s\u00e9curit\u00e9 similaires aux applications traditionnelles, telles que l&#8217;acc\u00e8s non autoris\u00e9 \u00e0 l&#8217;information, mais avec l&#8217;utilisation de nouvelles techniques d&#8217;attaque par des acteurs malveillants. <\/p>\n<p>L&#8217;IA est une r\u00e9alit\u00e9, pour le meilleur ou pour le pire. Il apporte d&#8217;innombrables avantages aux utilisateurs et aux constructeurs, mais en m\u00eame temps, des pr\u00e9occupations et de nouveaux d\u00e9fis du c\u00f4t\u00e9 de la s\u00e9curit\u00e9 et de toutes les organisations. <\/p>\n<p>Les entreprises d&#8217;identit\u00e9 aiment <a rel=\"noopener nofollow\" href=\"https:\/\/auth0.com\/\" target=\"_blank\">Auth0<\/a> sont l\u00e0 pour aider \u00e0 retirer la pi\u00e8ce de s\u00e9curit\u00e9 de votre assiette. En savoir plus sur la construction d&#8217;applications Genai en toute s\u00e9curit\u00e9 \u00e0 <a rel=\"noopener nofollow\" href=\"https:\/\/auth0.ai\" target=\"_blank\">auth0.ai<\/a>. <\/p>\n<p>D\u00e9couvrez pourquoi une plate-forme d&#8217;authentification et d&#8217;autorisation adaptable et facile \u00e0 r\u00e9aliser est le chemin le plus intelligent &#8211;<a rel=\"noopener nofollow\" href=\"https:\/\/auth0.com\/secure-smarter\" target=\"_blank\">Lire la suite ici<\/a>.<\/p>\n<p><\/p>\n<div class=\"cf note-b\">Vous avez trouv\u00e9 cet article int\u00e9ressant? <span class=\"\">Cet article est un article contribu\u00e9 de l&#8217;un de nos pr\u00e9cieux partenaires.<\/span> Suivez-nous <a rel=\"noopener nofollow\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Gazouillement <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  et <a rel=\"noopener nofollow\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">Liendin<\/a> Pour lire plus de contenu exclusif que nous publions.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2025\/02\/ai-and-security-new-puzzle-to-figure-out.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-fr-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>L&#8217;IA est partout maintenant, transformant le fonctionnement des entreprises et comment les utilisateurs s&#8217;engagent avec les applications, les appareils et les services. De nombreuses applications ont d\u00e9sormais une intelligence artificielle \u00e0 l&#8217;int\u00e9rieur, que ce soit en soutenant une interface de chat, en analysant intelligemment les donn\u00e9es ou en correspondant aux pr\u00e9f\u00e9rences des utilisateurs. Aucune question, [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":1538117,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[274266,274265,4168,6564,79002,274264,4161,274263,6124,274267,4160,680,30254,1835,238617,246491,4172,79016,4166,4164],"class_list":["post-1538116","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-actualites-de-piratage","tag-actualites-des-pirates","tag-comment-pirater","tag-comprendre","tag-cyber-security-news","tag-cyber-security-news-aujourdhui","tag-cyber-mises-a-jour","tag-cyber-nouvelles","tag-cyberattaques","tag-malware-ransomware","tag-mises-a-jour-de-la-cybersecurite","tag-nouveau","tag-puzzle","tag-securite","tag-securite-de-linformation","tag-securite-du-reseau","tag-securite-informatique","tag-the-hacker-news","tag-violation-de-donnees","tag-vulnerabilite-logicielle"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1538116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=1538116"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1538116\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/1538117"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=1538116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=1538116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=1538116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}