Dans le paysage num\u00e9rique en \u00e9volution rapide d’aujourd’hui, l’adoption g\u00e9n\u00e9ralis\u00e9e des outils d’IA (intelligence artificielle) transforme le mode de fonctionnement des organisations. Des chatbots aux mod\u00e8les d’IA g\u00e9n\u00e9ratifs, ces applications bas\u00e9es sur le SaaS offrent de nombreux avantages, allant d’une productivit\u00e9 accrue \u00e0 une prise de d\u00e9cision am\u00e9lior\u00e9e. Les employ\u00e9s utilisant des outils d’IA b\u00e9n\u00e9ficient des avantages de r\u00e9ponses rapides et de r\u00e9sultats pr\u00e9cis, ce qui leur permet d’effectuer leur travail de mani\u00e8re plus efficace et plus efficiente. Cette popularit\u00e9 se refl\u00e8te dans les chiffres stup\u00e9fiants associ\u00e9s aux outils d’IA. <\/p>\n
Le chatbot viral d’OpenAI, ChatGPT, compte environ 100 millions d’utilisateurs dans le monde, tandis que d’autres outils d’IA g\u00e9n\u00e9ratifs comme DALL\u00b7E et Bard ont \u00e9galement gagn\u00e9 en popularit\u00e9 gr\u00e2ce \u00e0 leur capacit\u00e9 \u00e0 g\u00e9n\u00e9rer un contenu impressionnant sans effort. Le march\u00e9 de l’IA g\u00e9n\u00e9rative devrait d\u00e9passer 22 milliards de dollars d’ici 2025, indiquant la d\u00e9pendance croissante aux technologies de l’IA.<\/b><\/a><\/p>\n Cependant, au milieu de l’enthousiasme suscit\u00e9 par l’adoption de l’IA, il est imp\u00e9ratif de r\u00e9pondre aux pr\u00e9occupations des professionnels de la s\u00e9curit\u00e9 dans les organisations. Ils soul\u00e8vent des questions l\u00e9gitimes sur l’utilisation et les autorisations des applications d’IA au sein de leur infrastructure\u00a0: qui utilise ces applications et \u00e0 quelles fins\u00a0? Quelles applications d’IA ont acc\u00e8s aux donn\u00e9es de l’entreprise et quel niveau d’acc\u00e8s leur a-t-on accord\u00e9\u00a0? Quelles sont les informations que les employ\u00e9s partagent avec ces applications\u00a0? Quelles sont les implications en mati\u00e8re de conformit\u00e9\u00a0?<\/p>\n L’importance de comprendre quelles applications d’IA sont utilis\u00e9es et l’acc\u00e8s dont elles disposent ne peut \u00eatre surestim\u00e9e. C’est la premi\u00e8re \u00e9tape fondamentale mais imp\u00e9rative pour comprendre et contr\u00f4ler l’utilisation de l’IA. Les professionnels de la s\u00e9curit\u00e9 doivent avoir une visibilit\u00e9 totale sur les outils d’IA<\/b><\/a> utilis\u00e9 par les employ\u00e9s. <\/p>\n Cette connaissance est cruciale pour trois raisons :<\/p>\n Il permet aux organisations de \u00e9valuer <\/strong>les risques potentiels associ\u00e9s aux applications d’IA. Sans savoir quelles applications sont utilis\u00e9es, les \u00e9quipes de s\u00e9curit\u00e9 ne peuvent pas \u00e9valuer et se prot\u00e9ger efficacement contre les menaces potentielles. Chaque outil d’IA pr\u00e9sente une surface d’attaque potentielle dont il faut tenir compte\u00a0: la plupart des applications d’IA sont bas\u00e9es sur le SaaS et n\u00e9cessitent des jetons OAuth pour se connecter aux principales applications d’entreprise telles que Google ou O365. Gr\u00e2ce \u00e0 ces jetons, les joueurs malveillants peuvent utiliser des applications d’IA pour se d\u00e9placer lat\u00e9ralement dans l’organisation. La d\u00e9couverte des applications de base est disponible avec les outils SSPM gratuits<\/b><\/a> et constitue la base de la s\u00e9curisation de l’utilisation de l’IA.<\/p>\n De plus, la connaissance des applications d’IA utilis\u00e9es au sein de l’organisation aide \u00e0 pr\u00e9venir l’utilisation par inadvertance d’applications fausses ou malveillantes. La popularit\u00e9 croissante des outils d’intelligence artificielle a attir\u00e9 des acteurs malveillants qui cr\u00e9ent des versions contrefaites pour tromper les employ\u00e9s et obtenir un acc\u00e8s non autoris\u00e9 \u00e0 des donn\u00e9es sensibles. En connaissant les applications d’IA l\u00e9gitimes et en \u00e9duquant les employ\u00e9s \u00e0 leur sujet, les organisations peuvent minimiser les risques associ\u00e9s \u00e0 ces imitations malveillantes.<\/p>\n Identifier les autorisations accord\u00e9es aux applications d’IA par les employ\u00e9s, aide les organisations mettre en \u0153uvre <\/strong>des mesures de s\u00e9curit\u00e9 robustes. Diff\u00e9rents outils d’IA peuvent avoir des exigences de s\u00e9curit\u00e9 et des risques potentiels diff\u00e9rents. En comprenant les autorisations accord\u00e9es aux applications d’IA et si ces autorisations pr\u00e9sentent ou non un risque, les professionnels de la s\u00e9curit\u00e9 peuvent adapter leurs protocoles de s\u00e9curit\u00e9 en cons\u00e9quence. S’assurer que des mesures appropri\u00e9es sont en place pour prot\u00e9ger les donn\u00e9es sensibles et emp\u00eacher les autorisations excessives est la deuxi\u00e8me \u00e9tape naturelle pour suivre la visibilit\u00e9.<\/p>\n Comprendre l’utilisation des applications d’IA permet aux organisations de passer \u00e0 l’action<\/strong> et g\u00e9rer efficacement leur \u00e9cosyst\u00e8me SaaS. Il fournit des informations sur le comportement des employ\u00e9s, identifie les failles de s\u00e9curit\u00e9 potentielles et permet des mesures proactives pour att\u00e9nuer les risques (r\u00e9voquer les autorisations ou l’acc\u00e8s des employ\u00e9s, par exemple). Il aide \u00e9galement les organisations \u00e0 se conformer aux r\u00e9glementations sur la confidentialit\u00e9 des donn\u00e9es en garantissant que les donn\u00e9es partag\u00e9es avec les applications d’IA sont correctement prot\u00e9g\u00e9es. La surveillance de l’int\u00e9gration inhabituelle de l’IA, des incoh\u00e9rences dans l’utilisation ou simplement la r\u00e9vocation de l’acc\u00e8s aux applications d’IA qui ne devraient pas \u00eatre utilis\u00e9es sont des mesures de s\u00e9curit\u00e9 facilement disponibles que les CISO et leurs \u00e9quipes peuvent prendre aujourd’hui.<\/p>\n En conclusion, les applications d’IA offrent d’immenses opportunit\u00e9s et avantages aux organisations. Cependant, ils introduisent \u00e9galement des d\u00e9fis de s\u00e9curit\u00e9 qui doivent \u00eatre r\u00e9solus. Alors que les outils de s\u00e9curit\u00e9 sp\u00e9cifiques \u00e0 l’IA en sont encore \u00e0 leurs d\u00e9buts, les professionnels de la s\u00e9curit\u00e9 doivent utiliser les capacit\u00e9s de d\u00e9couverte SaaS existantes et Gestion de la posture de s\u00e9curit\u00e9 SaaS (SSPM)<\/b><\/a> solutions pour r\u00e9pondre \u00e0 la question fondamentale qui sert de base \u00e0 l’utilisation s\u00e9curis\u00e9e de l’IA\u00a0: qui dans mon organisation utilise quelle application d’IA et avec quelles autorisations\u00a0? Il est facile de r\u00e9pondre \u00e0 ces questions fondamentales en utilisant les outils SSPM disponibles<\/b><\/a>\u00e9conomisant de pr\u00e9cieuses heures de travail manuel.<\/p>\n <\/p>\n1) \u00c9valuer les risques potentiels et se prot\u00e9ger contre les menaces<\/h3>\n
2) Mettre en \u0153uvre des mesures de s\u00e9curit\u00e9 robustes bas\u00e9es sur les autorisations<\/h3>\n
3) G\u00e9rer efficacement l’\u00e9cosyst\u00e8me SaaS<\/h3>\n