![<\/a><\/div>\nApr\u00e8s une bonne ann\u00e9e d’exub\u00e9rance soutenue, la gueule de bois est enfin l\u00e0. Elle est douce (pour l’instant), car le march\u00e9 corrige le cours des actions des principaux acteurs (comme Nvidia, Microsoft et Google), tandis que d’autres acteurs r\u00e9\u00e9valuent le march\u00e9 et ajustent leurs priorit\u00e9s. Gartner appelle cela le creux de la d\u00e9sillusion<\/a>lorsque l’int\u00e9r\u00eat s’affaiblit et que les mises en \u0153uvre ne parviennent pas \u00e0 produire les avanc\u00e9es promises. Les producteurs de la technologie se retirent ou \u00e9chouent. L’investissement ne se poursuit que si les fournisseurs survivants am\u00e9liorent leurs produits \u00e0 la satisfaction des premiers utilisateurs. <\/p>\nSoyons clairs, cela devait toujours \u00eatre le cas : la r\u00e9volution post-humaine promise par les partisans de l\u2019IA n\u2019a jamais \u00e9t\u00e9 un objectif r\u00e9aliste, et l\u2019incroyable enthousiasme suscit\u00e9 par les premiers LLM n\u2019\u00e9tait pas bas\u00e9 sur un succ\u00e8s commercial. <\/p>\nL\u2019IA est l\u00e0 pour rester <\/h2>\nQuelle est la prochaine \u00e9tape pour l\u2019IA ? Si elle suit le cycle de battage m\u00e9diatique de Gartner, le krach sera suivi par la pente de l\u2019illumination, o\u00f9 la technologie en cours de maturation reprendra pied, les avantages se cristalliseront et les fournisseurs mettront sur le march\u00e9 des produits de deuxi\u00e8me et troisi\u00e8me g\u00e9n\u00e9ration. Et si tout se passe bien, il sera suivi par le plateau sacr\u00e9 de la productivit\u00e9, o\u00f9 l\u2019adoption par le grand public d\u00e9collera, pouss\u00e9e par l\u2019attrait g\u00e9n\u00e9ral de la technologie sur le march\u00e9. Gartner insiste sur le fait qu\u2019il y a deux grands \u00ab si \u00bb : toutes les technologies ne sont pas destin\u00e9es \u00e0 se r\u00e9tablir apr\u00e8s le krach et ce qui est important, c\u2019est que le produit trouve assez rapidement sa place sur le march\u00e9. <\/p>\n\u00c0 l\u2019heure actuelle, il semble presque certain que l\u2019IA est l\u00e0 pour rester. Apple et Google commercialisent des produits grand public qui reconditionnent la technologie en \u00e9l\u00e9ments plus petits, digestes et faciles \u00e0 utiliser (retouche photo, \u00e9dition de texte, recherche avanc\u00e9e). M\u00eame si la qualit\u00e9 est encore tr\u00e8s in\u00e9gale, il semble qu\u2019au moins certains acteurs aient trouv\u00e9 un moyen de transformer l\u2019IA g\u00e9n\u00e9rative en produit, d\u2019une mani\u00e8re qui ait du sens \u2013 \u00e0 la fois pour les consommateurs et pour leurs propres r\u00e9sultats financiers. <\/p>\nQu’est-ce que le LLM nous a apport\u00e9 ? <\/h2>\nBon, o\u00f9 en sont les clients d\u2019entreprise \u2013 et les applications de cybers\u00e9curit\u00e9 en particulier ? Le fait est que l\u2019IA g\u00e9n\u00e9rative pr\u00e9sente encore des inconv\u00e9nients importants qui entravent son adoption \u00e0 grande \u00e9chelle. L\u2019un d\u2019eux est sa nature fondamentalement non d\u00e9terministe. \u00c9tant donn\u00e9 que la technologie elle-m\u00eame est bas\u00e9e sur des mod\u00e8les probabilistes (une fonctionnalit\u00e9, pas un bug !), il y aura une variation dans les r\u00e9sultats. Cela pourrait effrayer certains v\u00e9t\u00e9rans du secteur qui s\u2019attendent \u00e0 des comportements logiciels \u00e0 l\u2019ancienne. Cela signifie \u00e9galement que l\u2019IA g\u00e9n\u00e9rative ne remplacera pas les outils existants \u2013 il s\u2019agira plut\u00f4t d\u2019une am\u00e9lioration et d\u2019une augmentation de ces outils. N\u00e9anmoins, elle a le potentiel de fonctionner comme une couche d\u2019une d\u00e9fense multicouche, une couche difficile \u00e0 pr\u00e9voir pour les attaquants \u00e9galement. <\/p>\nL\u2019autre inconv\u00e9nient qui provoque des frictions dans l\u2019adoption est le co\u00fbt. Les mod\u00e8les sont tr\u00e8s co\u00fbteux \u00e0 former<\/a> et ce co\u00fbt \u00e9lev\u00e9 est actuellement r\u00e9percut\u00e9 sur les consommateurs des mod\u00e8les. Par cons\u00e9quent, on s’efforce de r\u00e9duire le co\u00fbt par requ\u00eate. Les avanc\u00e9es mat\u00e9rielles, associ\u00e9es \u00e0 des r\u00e9sultats r\u00e9volutionnaires dans le perfectionnement des mod\u00e8les, promettent une diminution significative de la consommation d’\u00e9nergie des mod\u00e8les d’IA en cours d’ex\u00e9cution, et il est raisonnable de s’attendre \u00e0 ce que (au moins la sortie textuelle) se transforme en une activit\u00e9 rentable. <\/p>\nLes mod\u00e8les moins chers et plus pr\u00e9cis sont une bonne chose, mais on se rend de plus en plus compte que l\u2019int\u00e9gration de ces mod\u00e8les dans les flux de travail des organisations constituera un d\u00e9fi de taille. En tant que soci\u00e9t\u00e9, nous n\u2019avons pas encore l\u2019exp\u00e9rience n\u00e9cessaire pour savoir comment int\u00e9grer efficacement les technologies d\u2019IA dans les pratiques de travail quotidiennes. Il y a aussi la question de savoir comment la main-d\u2019\u0153uvre humaine existante acceptera et travaillera avec les nouvelles technologies. Par exemple, nous avons vu des cas o\u00f9 les travailleurs humains et les clients pr\u00e9f\u00e8rent interagir avec un mod\u00e8le qui privil\u00e9gie l\u2019explicabilit\u00e9 \u00e0 l\u2019exactitude. \u00c9tude de mars 2024<\/a> Une \u00e9tude de la Harvard Medical School a r\u00e9v\u00e9l\u00e9 que l\u2019effet de l\u2019assistance de l\u2019IA \u00e9tait incoh\u00e9rent et variable selon les \u00e9chantillons de radiologues test\u00e9s, les performances de certains radiologues s\u2019am\u00e9liorant avec l\u2019IA et se d\u00e9t\u00e9riorant chez d\u2019autres. La recommandation est que, m\u00eame si les outils d\u2019IA doivent \u00eatre introduits dans la pratique clinique, une approche nuanc\u00e9e, personnalis\u00e9e et soigneusement calibr\u00e9e doit \u00eatre adopt\u00e9e pour garantir des r\u00e9sultats optimaux pour les patients. <\/p>\nQu\u2019en est-il de l\u2019ad\u00e9quation au march\u00e9 \u00e9voqu\u00e9e pr\u00e9c\u00e9demment ? M\u00eame si l\u2019IA g\u00e9n\u00e9rative ne remplacera (probablement) jamais un programmeur (quoi que pr\u00e9tendent certaines entreprises), la g\u00e9n\u00e9ration de code assist\u00e9e par l\u2019IA est devenue un outil de prototypage utile pour une vari\u00e9t\u00e9 de sc\u00e9narios. Cela est d\u00e9j\u00e0 utile aux sp\u00e9cialistes de la cybers\u00e9curit\u00e9 : le code ou la configuration g\u00e9n\u00e9r\u00e9s constituent un point de d\u00e9part raisonnable pour construire quelque chose rapidement avant de le peaufiner. <\/p>\nLe gros b\u00e9mol est que la technologie existante permet d’acc\u00e9l\u00e9rer le travail d’un professionnel chevronn\u00e9, qui peut rapidement d\u00e9boguer et corriger le texte g\u00e9n\u00e9r\u00e9 (code ou configuration). Mais cela peut \u00eatre potentiellement d\u00e9sastreux pour un utilisateur qui n’est pas un v\u00e9t\u00e9ran du domaine : il y a toujours un risque qu’une configuration ou un code non s\u00e9curis\u00e9 soit g\u00e9n\u00e9r\u00e9, ce qui, s’il se retrouve en production, r\u00e9duirait la position de l’organisation en mati\u00e8re de cybers\u00e9curit\u00e9. Ainsi, comme tout autre outil, il peut \u00eatre utile si vous savez ce que vous faites, et peut conduire \u00e0 des r\u00e9sultats n\u00e9gatifs dans le cas contraire. <\/p>\nIl faut ici mettre en garde contre une caract\u00e9ristique particuli\u00e8re de la g\u00e9n\u00e9ration actuelle d’outils d’IA g\u00e9n\u00e9rative : ils semblent trompeusement confiants lorsqu’ils proclament les r\u00e9sultats. M\u00eame si le texte est manifestement erron\u00e9, tous les outils actuels le pr\u00e9sentent avec une assurance qui induit facilement en erreur les utilisateurs novices. Alors, gardez \u00e0 l’esprit que l’ordinateur ment sur sa certitude, et parfois il se trompe lourdement. <\/p>\nUn autre cas d\u2019utilisation efficace est le support client, plus pr\u00e9cis\u00e9ment le support de niveau 1 : la capacit\u00e9 d\u2019aider les clients qui ne prennent pas la peine de lire le manuel ou les FAQ affich\u00e9es. Un chatbot moderne peut raisonnablement r\u00e9pondre \u00e0 des questions simples et acheminer les requ\u00eates plus avanc\u00e9es vers des niveaux de support plus \u00e9lev\u00e9s. Bien que ce ne soit pas exactement l\u2019id\u00e9al du point de vue de l\u2019exp\u00e9rience client, les \u00e9conomies de co\u00fbts (en particulier pour les tr\u00e8s grandes organisations avec beaucoup d\u2019utilisateurs non form\u00e9s) pourraient \u00eatre significatives. <\/p>\nL\u2019incertitude sur la mani\u00e8re dont l\u2019IA s\u2019int\u00e9grera dans les entreprises est une une aubaine pour le secteur du conseil en gestion<\/a>. Par exemple, le Boston Consulting Group tire aujourd\u2019hui 20 % de son chiffre d\u2019affaires de projets li\u00e9s \u00e0 l\u2019IA, tandis que McKinsey pr\u00e9voit que 40 % de son chiffre d\u2019affaires proviendra de projets li\u00e9s \u00e0 l\u2019IA cette ann\u00e9e. D\u2019autres cabinets de conseil comme IBM et Accenture sont \u00e9galement sur la sellette. Les projets commerciaux sont tr\u00e8s vari\u00e9s : faciliter la traduction des publicit\u00e9s d\u2019une langue \u00e0 l\u2019autre, am\u00e9liorer la recherche d\u2019achats lors de l\u2019\u00e9valuation des fournisseurs et renforcer les chatbots du service client qui \u00e9vitent les hallucinations et incluent des r\u00e9f\u00e9rences aux sources pour renforcer la fiabilit\u00e9. Bien que seulement 200 des 5\u00a0000 requ\u00eates des clients passent par le chatbot chez ING, on peut s\u2019attendre \u00e0 ce que ce chiffre augmente \u00e0 mesure que la qualit\u00e9 des r\u00e9ponses s\u2019am\u00e9liore. De mani\u00e8re analogue \u00e0 l\u2019\u00e9volution de la recherche sur Internet, on peut imaginer un point de basculement o\u00f9 il deviendra une r\u00e9action instinctive de \u00ab demander au bot \u00bb plut\u00f4t que de fouiller soi-m\u00eame dans le bourbier de donn\u00e9es. <\/p>\nLa gouvernance de l\u2019IA doit r\u00e9pondre aux pr\u00e9occupations en mati\u00e8re de cybers\u00e9curit\u00e9 <\/h2>\nInd\u00e9pendamment des cas d\u2019utilisation sp\u00e9cifiques, les nouveaux outils d\u2019IA posent un tout nouvel ensemble de probl\u00e8mes de cybers\u00e9curit\u00e9. Comme les RPA par le pass\u00e9, les chatbots en contact avec les clients ont besoin d\u2019identit\u00e9s de machines avec un acc\u00e8s appropri\u00e9, parfois privil\u00e9gi\u00e9, aux syst\u00e8mes de l\u2019entreprise. Par exemple, un chatbot peut avoir besoin de pouvoir identifier le client et d\u2019extraire certains enregistrements du syst\u00e8me CRM, ce qui devrait imm\u00e9diatement d\u00e9clencher l\u2019alarme pour les v\u00e9t\u00e9rans de l\u2019IAM. contr\u00f4les d’acc\u00e8s<\/a> Autour de cette technologie exp\u00e9rimentale se trouvera un aspect cl\u00e9 du processus de mise en \u0153uvre. <\/p>\nIl en va de m\u00eame pour les outils de g\u00e9n\u00e9ration de code utilis\u00e9s dans les processus Dev ou DevOps : d\u00e9finir l\u2019acc\u00e8s correct au r\u00e9f\u00e9rentiel de code limitera le rayon d\u2019action en cas de probl\u00e8me. Cela r\u00e9duit \u00e9galement l\u2019effet d\u2019une violation potentielle, au cas o\u00f9 l\u2019outil d\u2019IA lui-m\u00eame deviendrait un probl\u00e8me de cybers\u00e9curit\u00e9. <\/p>\nEt bien s\u00fbr, il y a toujours le risque de tiers : en adoptant un outil aussi puissant mais peu compris, les organisations s’exposent \u00e0 des adversaires qui sondent les limites de la technologie LLM. Le manque relatif de maturit\u00e9 dans ce domaine pourrait \u00eatre probl\u00e9matique : nous ne disposons pas encore de bonnes pratiques pour renforcer les LLM, nous devons donc nous assurer qu’ils ne disposent pas de privil\u00e8ges d’\u00e9criture dans des endroits sensibles. <\/p>\nLes opportunit\u00e9s de l’IA dans l’IAM <\/h2>\n\u00c0 ce stade, les cas d\u2019utilisation et les opportunit\u00e9s pour L’IA dans le contr\u00f4le d’acc\u00e8s et l’IAM<\/a> prennent forme et sont livr\u00e9es aux clients sous forme de produits. Les domaines traditionnels du ML classique, comme l’exploration de r\u00f4les et les recommandations de droits, sont revisit\u00e9s \u00e0 la lumi\u00e8re des m\u00e9thodes et des interfaces utilisateur modernes, la cr\u00e9ation et l’\u00e9volution des r\u00f4les \u00e9tant plus \u00e9troitement int\u00e9gr\u00e9es dans les flux de travail et les interfaces utilisateur de gouvernance pr\u00eats \u00e0 l’emploi. Les innovations plus r\u00e9centes inspir\u00e9es de l’IA, telles que l’analyse par groupe de pairs, les recommandations de d\u00e9cision et la gouvernance ax\u00e9e sur le comportement, deviennent monnaie courante dans le monde de la gouvernance des identit\u00e9s. Les clients s’attendent d\u00e9sormais \u00e0 des technologies de point d’application telles que les syst\u00e8mes de gestion des acc\u00e8s SSO et Syst\u00e8mes de gestion de comptes privil\u00e9gi\u00e9s<\/a> pour proposer une d\u00e9tection d’anomalies et de menaces bas\u00e9e sur l’IA en fonction du comportement et des sessions des utilisateurs. <\/p>\nLes interfaces en langage naturel commencent \u00e0 am\u00e9liorer consid\u00e9rablement l’exp\u00e9rience utilisateur dans toutes ces cat\u00e9gories de Solution IAM<\/a> en permettant des \u00e9changes interactifs en langage naturel avec le syst\u00e8me. Nous avons toujours besoin de rapports et de tableaux de bord statiques, mais la possibilit\u00e9 pour des personnes ayant des responsabilit\u00e9s et des besoins diff\u00e9rents de s’exprimer en langage naturel et d’affiner les r\u00e9sultats de recherche de mani\u00e8re interactive r\u00e9duit les comp\u00e9tences et la formation n\u00e9cessaires pour garantir que les organisations tirent profit de ces syst\u00e8mes. <\/p>\nC’est la fin du d\u00e9but <\/h2>\nUne chose est s\u00fbre : quel que soit l\u2019\u00e9tat de la technologie de l\u2019IA \u00e0 la mi-2024, ce domaine ne s\u2019arr\u00eatera pas l\u00e0. L\u2019IA g\u00e9n\u00e9rative et les masters de l\u2019IA ne sont qu\u2019un sous-domaine de l\u2019IA, de nombreux autres domaines li\u00e9s \u00e0 l\u2019IA progressant rapidement gr\u00e2ce aux progr\u00e8s du mat\u00e9riel et aux g\u00e9n\u00e9reux financements publics et priv\u00e9s de la recherche. <\/p>\nQuelle que soit la forme que prendra l\u2019IA mature et pr\u00eate \u00e0 l\u2019emploi, les v\u00e9t\u00e9rans de la s\u00e9curit\u00e9 doivent d\u00e9j\u00e0 consid\u00e9rer les avantages potentiels que l\u2019IA g\u00e9n\u00e9rative peut apporter \u00e0 leur posture d\u00e9fensive, ce que ces outils peuvent faire pour percer les d\u00e9fenses existantes et comment pouvons-nous contenir le rayon de l\u2019explosion si l\u2019exp\u00e9rience tourne mal.<\/p>\nNote: <\/b>Cet article r\u00e9dig\u00e9 avec brio est r\u00e9dig\u00e9 par Robert Byrne, strat\u00e8ge de terrain chez One Identity. Rob a plus de 15 ans d’exp\u00e9rience dans le domaine informatique, occupant divers postes tels que le d\u00e9veloppement, le conseil et les ventes techniques. Sa carri\u00e8re s’est principalement concentr\u00e9e sur la gestion des identit\u00e9s. Avant de rejoindre Quest, Rob a travaill\u00e9 chez Oracle et Sun Microsystems. Il est titulaire d’une licence en math\u00e9matiques et en informatique.<\/i><\/p>\n<\/p>\nVous avez trouv\u00e9 cet article int\u00e9ressant ? Cet article est une contribution de l\u2019un de nos pr\u00e9cieux partenaires.<\/span> Suivez-nous sur Gazouillement \uf099<\/i><\/a> et LinkedIn<\/a> pour lire davantage de contenu exclusif que nous publions.<\/div>\n<\/div>\n](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/08\/La-gueule-de-bois-de-lIA-est-la-\u2013-La.jpg\"){kind=link}
Apr\u00e8s une bonne ann\u00e9e d’exub\u00e9rance soutenue, la gueule de bois est enfin l\u00e0. Elle est douce (pour l’instant), car le march\u00e9 corrige le cours des actions des principaux acteurs (comme Nvidia, Microsoft et Google), tandis que d’autres acteurs r\u00e9\u00e9valuent le march\u00e9 et ajustent leurs priorit\u00e9s. Gartner appelle cela le creux de la d\u00e9sillusion<\/a>lorsque l’int\u00e9r\u00eat s’affaiblit et que les mises en \u0153uvre ne parviennent pas \u00e0 produire les avanc\u00e9es promises. Les producteurs de la technologie se retirent ou \u00e9chouent. L’investissement ne se poursuit que si les fournisseurs survivants am\u00e9liorent leurs produits \u00e0 la satisfaction des premiers utilisateurs. <\/p>\n Soyons clairs, cela devait toujours \u00eatre le cas : la r\u00e9volution post-humaine promise par les partisans de l\u2019IA n\u2019a jamais \u00e9t\u00e9 un objectif r\u00e9aliste, et l\u2019incroyable enthousiasme suscit\u00e9 par les premiers LLM n\u2019\u00e9tait pas bas\u00e9 sur un succ\u00e8s commercial. <\/p>\n Quelle est la prochaine \u00e9tape pour l\u2019IA ? Si elle suit le cycle de battage m\u00e9diatique de Gartner, le krach sera suivi par la pente de l\u2019illumination, o\u00f9 la technologie en cours de maturation reprendra pied, les avantages se cristalliseront et les fournisseurs mettront sur le march\u00e9 des produits de deuxi\u00e8me et troisi\u00e8me g\u00e9n\u00e9ration. Et si tout se passe bien, il sera suivi par le plateau sacr\u00e9 de la productivit\u00e9, o\u00f9 l\u2019adoption par le grand public d\u00e9collera, pouss\u00e9e par l\u2019attrait g\u00e9n\u00e9ral de la technologie sur le march\u00e9. Gartner insiste sur le fait qu\u2019il y a deux grands \u00ab si \u00bb : toutes les technologies ne sont pas destin\u00e9es \u00e0 se r\u00e9tablir apr\u00e8s le krach et ce qui est important, c\u2019est que le produit trouve assez rapidement sa place sur le march\u00e9. <\/p>\n \u00c0 l\u2019heure actuelle, il semble presque certain que l\u2019IA est l\u00e0 pour rester. Apple et Google commercialisent des produits grand public qui reconditionnent la technologie en \u00e9l\u00e9ments plus petits, digestes et faciles \u00e0 utiliser (retouche photo, \u00e9dition de texte, recherche avanc\u00e9e). M\u00eame si la qualit\u00e9 est encore tr\u00e8s in\u00e9gale, il semble qu\u2019au moins certains acteurs aient trouv\u00e9 un moyen de transformer l\u2019IA g\u00e9n\u00e9rative en produit, d\u2019une mani\u00e8re qui ait du sens \u2013 \u00e0 la fois pour les consommateurs et pour leurs propres r\u00e9sultats financiers. <\/p>\n Bon, o\u00f9 en sont les clients d\u2019entreprise \u2013 et les applications de cybers\u00e9curit\u00e9 en particulier ? Le fait est que l\u2019IA g\u00e9n\u00e9rative pr\u00e9sente encore des inconv\u00e9nients importants qui entravent son adoption \u00e0 grande \u00e9chelle. L\u2019un d\u2019eux est sa nature fondamentalement non d\u00e9terministe. \u00c9tant donn\u00e9 que la technologie elle-m\u00eame est bas\u00e9e sur des mod\u00e8les probabilistes (une fonctionnalit\u00e9, pas un bug !), il y aura une variation dans les r\u00e9sultats. Cela pourrait effrayer certains v\u00e9t\u00e9rans du secteur qui s\u2019attendent \u00e0 des comportements logiciels \u00e0 l\u2019ancienne. Cela signifie \u00e9galement que l\u2019IA g\u00e9n\u00e9rative ne remplacera pas les outils existants \u2013 il s\u2019agira plut\u00f4t d\u2019une am\u00e9lioration et d\u2019une augmentation de ces outils. N\u00e9anmoins, elle a le potentiel de fonctionner comme une couche d\u2019une d\u00e9fense multicouche, une couche difficile \u00e0 pr\u00e9voir pour les attaquants \u00e9galement. <\/p>\n L\u2019autre inconv\u00e9nient qui provoque des frictions dans l\u2019adoption est le co\u00fbt. Les mod\u00e8les sont tr\u00e8s co\u00fbteux \u00e0 former<\/a> et ce co\u00fbt \u00e9lev\u00e9 est actuellement r\u00e9percut\u00e9 sur les consommateurs des mod\u00e8les. Par cons\u00e9quent, on s’efforce de r\u00e9duire le co\u00fbt par requ\u00eate. Les avanc\u00e9es mat\u00e9rielles, associ\u00e9es \u00e0 des r\u00e9sultats r\u00e9volutionnaires dans le perfectionnement des mod\u00e8les, promettent une diminution significative de la consommation d’\u00e9nergie des mod\u00e8les d’IA en cours d’ex\u00e9cution, et il est raisonnable de s’attendre \u00e0 ce que (au moins la sortie textuelle) se transforme en une activit\u00e9 rentable. <\/p>\n Les mod\u00e8les moins chers et plus pr\u00e9cis sont une bonne chose, mais on se rend de plus en plus compte que l\u2019int\u00e9gration de ces mod\u00e8les dans les flux de travail des organisations constituera un d\u00e9fi de taille. En tant que soci\u00e9t\u00e9, nous n\u2019avons pas encore l\u2019exp\u00e9rience n\u00e9cessaire pour savoir comment int\u00e9grer efficacement les technologies d\u2019IA dans les pratiques de travail quotidiennes. Il y a aussi la question de savoir comment la main-d\u2019\u0153uvre humaine existante acceptera et travaillera avec les nouvelles technologies. Par exemple, nous avons vu des cas o\u00f9 les travailleurs humains et les clients pr\u00e9f\u00e8rent interagir avec un mod\u00e8le qui privil\u00e9gie l\u2019explicabilit\u00e9 \u00e0 l\u2019exactitude. \u00c9tude de mars 2024<\/a> Une \u00e9tude de la Harvard Medical School a r\u00e9v\u00e9l\u00e9 que l\u2019effet de l\u2019assistance de l\u2019IA \u00e9tait incoh\u00e9rent et variable selon les \u00e9chantillons de radiologues test\u00e9s, les performances de certains radiologues s\u2019am\u00e9liorant avec l\u2019IA et se d\u00e9t\u00e9riorant chez d\u2019autres. La recommandation est que, m\u00eame si les outils d\u2019IA doivent \u00eatre introduits dans la pratique clinique, une approche nuanc\u00e9e, personnalis\u00e9e et soigneusement calibr\u00e9e doit \u00eatre adopt\u00e9e pour garantir des r\u00e9sultats optimaux pour les patients. <\/p>\n Qu\u2019en est-il de l\u2019ad\u00e9quation au march\u00e9 \u00e9voqu\u00e9e pr\u00e9c\u00e9demment ? M\u00eame si l\u2019IA g\u00e9n\u00e9rative ne remplacera (probablement) jamais un programmeur (quoi que pr\u00e9tendent certaines entreprises), la g\u00e9n\u00e9ration de code assist\u00e9e par l\u2019IA est devenue un outil de prototypage utile pour une vari\u00e9t\u00e9 de sc\u00e9narios. Cela est d\u00e9j\u00e0 utile aux sp\u00e9cialistes de la cybers\u00e9curit\u00e9 : le code ou la configuration g\u00e9n\u00e9r\u00e9s constituent un point de d\u00e9part raisonnable pour construire quelque chose rapidement avant de le peaufiner. <\/p>\n Le gros b\u00e9mol est que la technologie existante permet d’acc\u00e9l\u00e9rer le travail d’un professionnel chevronn\u00e9, qui peut rapidement d\u00e9boguer et corriger le texte g\u00e9n\u00e9r\u00e9 (code ou configuration). Mais cela peut \u00eatre potentiellement d\u00e9sastreux pour un utilisateur qui n’est pas un v\u00e9t\u00e9ran du domaine : il y a toujours un risque qu’une configuration ou un code non s\u00e9curis\u00e9 soit g\u00e9n\u00e9r\u00e9, ce qui, s’il se retrouve en production, r\u00e9duirait la position de l’organisation en mati\u00e8re de cybers\u00e9curit\u00e9. Ainsi, comme tout autre outil, il peut \u00eatre utile si vous savez ce que vous faites, et peut conduire \u00e0 des r\u00e9sultats n\u00e9gatifs dans le cas contraire. <\/p>\n Il faut ici mettre en garde contre une caract\u00e9ristique particuli\u00e8re de la g\u00e9n\u00e9ration actuelle d’outils d’IA g\u00e9n\u00e9rative : ils semblent trompeusement confiants lorsqu’ils proclament les r\u00e9sultats. M\u00eame si le texte est manifestement erron\u00e9, tous les outils actuels le pr\u00e9sentent avec une assurance qui induit facilement en erreur les utilisateurs novices. Alors, gardez \u00e0 l’esprit que l’ordinateur ment sur sa certitude, et parfois il se trompe lourdement. <\/p>\n Un autre cas d\u2019utilisation efficace est le support client, plus pr\u00e9cis\u00e9ment le support de niveau 1 : la capacit\u00e9 d\u2019aider les clients qui ne prennent pas la peine de lire le manuel ou les FAQ affich\u00e9es. Un chatbot moderne peut raisonnablement r\u00e9pondre \u00e0 des questions simples et acheminer les requ\u00eates plus avanc\u00e9es vers des niveaux de support plus \u00e9lev\u00e9s. Bien que ce ne soit pas exactement l\u2019id\u00e9al du point de vue de l\u2019exp\u00e9rience client, les \u00e9conomies de co\u00fbts (en particulier pour les tr\u00e8s grandes organisations avec beaucoup d\u2019utilisateurs non form\u00e9s) pourraient \u00eatre significatives. <\/p>\n L\u2019incertitude sur la mani\u00e8re dont l\u2019IA s\u2019int\u00e9grera dans les entreprises est une une aubaine pour le secteur du conseil en gestion<\/a>. Par exemple, le Boston Consulting Group tire aujourd\u2019hui 20 % de son chiffre d\u2019affaires de projets li\u00e9s \u00e0 l\u2019IA, tandis que McKinsey pr\u00e9voit que 40 % de son chiffre d\u2019affaires proviendra de projets li\u00e9s \u00e0 l\u2019IA cette ann\u00e9e. D\u2019autres cabinets de conseil comme IBM et Accenture sont \u00e9galement sur la sellette. Les projets commerciaux sont tr\u00e8s vari\u00e9s : faciliter la traduction des publicit\u00e9s d\u2019une langue \u00e0 l\u2019autre, am\u00e9liorer la recherche d\u2019achats lors de l\u2019\u00e9valuation des fournisseurs et renforcer les chatbots du service client qui \u00e9vitent les hallucinations et incluent des r\u00e9f\u00e9rences aux sources pour renforcer la fiabilit\u00e9. Bien que seulement 200 des 5\u00a0000 requ\u00eates des clients passent par le chatbot chez ING, on peut s\u2019attendre \u00e0 ce que ce chiffre augmente \u00e0 mesure que la qualit\u00e9 des r\u00e9ponses s\u2019am\u00e9liore. De mani\u00e8re analogue \u00e0 l\u2019\u00e9volution de la recherche sur Internet, on peut imaginer un point de basculement o\u00f9 il deviendra une r\u00e9action instinctive de \u00ab demander au bot \u00bb plut\u00f4t que de fouiller soi-m\u00eame dans le bourbier de donn\u00e9es. <\/p>\n Ind\u00e9pendamment des cas d\u2019utilisation sp\u00e9cifiques, les nouveaux outils d\u2019IA posent un tout nouvel ensemble de probl\u00e8mes de cybers\u00e9curit\u00e9. Comme les RPA par le pass\u00e9, les chatbots en contact avec les clients ont besoin d\u2019identit\u00e9s de machines avec un acc\u00e8s appropri\u00e9, parfois privil\u00e9gi\u00e9, aux syst\u00e8mes de l\u2019entreprise. Par exemple, un chatbot peut avoir besoin de pouvoir identifier le client et d\u2019extraire certains enregistrements du syst\u00e8me CRM, ce qui devrait imm\u00e9diatement d\u00e9clencher l\u2019alarme pour les v\u00e9t\u00e9rans de l\u2019IAM. contr\u00f4les d’acc\u00e8s<\/a> Autour de cette technologie exp\u00e9rimentale se trouvera un aspect cl\u00e9 du processus de mise en \u0153uvre. <\/p>\n Il en va de m\u00eame pour les outils de g\u00e9n\u00e9ration de code utilis\u00e9s dans les processus Dev ou DevOps : d\u00e9finir l\u2019acc\u00e8s correct au r\u00e9f\u00e9rentiel de code limitera le rayon d\u2019action en cas de probl\u00e8me. Cela r\u00e9duit \u00e9galement l\u2019effet d\u2019une violation potentielle, au cas o\u00f9 l\u2019outil d\u2019IA lui-m\u00eame deviendrait un probl\u00e8me de cybers\u00e9curit\u00e9. <\/p>\n Et bien s\u00fbr, il y a toujours le risque de tiers : en adoptant un outil aussi puissant mais peu compris, les organisations s’exposent \u00e0 des adversaires qui sondent les limites de la technologie LLM. Le manque relatif de maturit\u00e9 dans ce domaine pourrait \u00eatre probl\u00e9matique : nous ne disposons pas encore de bonnes pratiques pour renforcer les LLM, nous devons donc nous assurer qu’ils ne disposent pas de privil\u00e8ges d’\u00e9criture dans des endroits sensibles. <\/p>\n \u00c0 ce stade, les cas d\u2019utilisation et les opportunit\u00e9s pour L’IA dans le contr\u00f4le d’acc\u00e8s et l’IAM<\/a> prennent forme et sont livr\u00e9es aux clients sous forme de produits. Les domaines traditionnels du ML classique, comme l’exploration de r\u00f4les et les recommandations de droits, sont revisit\u00e9s \u00e0 la lumi\u00e8re des m\u00e9thodes et des interfaces utilisateur modernes, la cr\u00e9ation et l’\u00e9volution des r\u00f4les \u00e9tant plus \u00e9troitement int\u00e9gr\u00e9es dans les flux de travail et les interfaces utilisateur de gouvernance pr\u00eats \u00e0 l’emploi. Les innovations plus r\u00e9centes inspir\u00e9es de l’IA, telles que l’analyse par groupe de pairs, les recommandations de d\u00e9cision et la gouvernance ax\u00e9e sur le comportement, deviennent monnaie courante dans le monde de la gouvernance des identit\u00e9s. Les clients s’attendent d\u00e9sormais \u00e0 des technologies de point d’application telles que les syst\u00e8mes de gestion des acc\u00e8s SSO et Syst\u00e8mes de gestion de comptes privil\u00e9gi\u00e9s<\/a> pour proposer une d\u00e9tection d’anomalies et de menaces bas\u00e9e sur l’IA en fonction du comportement et des sessions des utilisateurs. <\/p>\n Les interfaces en langage naturel commencent \u00e0 am\u00e9liorer consid\u00e9rablement l’exp\u00e9rience utilisateur dans toutes ces cat\u00e9gories de Solution IAM<\/a> en permettant des \u00e9changes interactifs en langage naturel avec le syst\u00e8me. Nous avons toujours besoin de rapports et de tableaux de bord statiques, mais la possibilit\u00e9 pour des personnes ayant des responsabilit\u00e9s et des besoins diff\u00e9rents de s’exprimer en langage naturel et d’affiner les r\u00e9sultats de recherche de mani\u00e8re interactive r\u00e9duit les comp\u00e9tences et la formation n\u00e9cessaires pour garantir que les organisations tirent profit de ces syst\u00e8mes. <\/p>\n Une chose est s\u00fbre : quel que soit l\u2019\u00e9tat de la technologie de l\u2019IA \u00e0 la mi-2024, ce domaine ne s\u2019arr\u00eatera pas l\u00e0. L\u2019IA g\u00e9n\u00e9rative et les masters de l\u2019IA ne sont qu\u2019un sous-domaine de l\u2019IA, de nombreux autres domaines li\u00e9s \u00e0 l\u2019IA progressant rapidement gr\u00e2ce aux progr\u00e8s du mat\u00e9riel et aux g\u00e9n\u00e9reux financements publics et priv\u00e9s de la recherche. <\/p>\n Quelle que soit la forme que prendra l\u2019IA mature et pr\u00eate \u00e0 l\u2019emploi, les v\u00e9t\u00e9rans de la s\u00e9curit\u00e9 doivent d\u00e9j\u00e0 consid\u00e9rer les avantages potentiels que l\u2019IA g\u00e9n\u00e9rative peut apporter \u00e0 leur posture d\u00e9fensive, ce que ces outils peuvent faire pour percer les d\u00e9fenses existantes et comment pouvons-nous contenir le rayon de l\u2019explosion si l\u2019exp\u00e9rience tourne mal.<\/p>\n Note: <\/b>Cet article r\u00e9dig\u00e9 avec brio est r\u00e9dig\u00e9 par Robert Byrne, strat\u00e8ge de terrain chez One Identity. Rob a plus de 15 ans d’exp\u00e9rience dans le domaine informatique, occupant divers postes tels que le d\u00e9veloppement, le conseil et les ventes techniques. Sa carri\u00e8re s’est principalement concentr\u00e9e sur la gestion des identit\u00e9s. Avant de rejoindre Quest, Rob a travaill\u00e9 chez Oracle et Sun Microsystems. Il est titulaire d’une licence en math\u00e9matiques et en informatique.<\/i><\/p>\n <\/p>\nL\u2019IA est l\u00e0 pour rester <\/h2>\n
Qu’est-ce que le LLM nous a apport\u00e9 ? <\/h2>\n
La gouvernance de l\u2019IA doit r\u00e9pondre aux pr\u00e9occupations en mati\u00e8re de cybers\u00e9curit\u00e9 <\/h2>\n
Les opportunit\u00e9s de l’IA dans l’IAM <\/h2>\n
C’est la fin du d\u00e9but <\/h2>\n