Wing Security a annoncé aujourd’hui qu’elle propose désormais découverte gratuite et un niveau payant pour le contrôle automatisé sur des milliers d’applications SaaS basées sur l’IA et basées sur l’IA. Cela permettra aux entreprises de mieux protéger leur propriété intellectuelle (PI) et leurs données contre les risques croissants et évolutifs liés à l’utilisation de l’IA.
Les applications SaaS semblent se multiplier de jour en jour, tout comme leur intégration de capacités d’IA. Selon Wing Security, une société de sécurité SaaS qui a étudié plus de 320 entreprises, 83,2 % d’entre elles utilisent des applications GenAI. Bien que cette statistique ne soit pas une surprise, l’étude a montré que 99,7 % des organisations utilisent des applications SaaS qui exploitent les capacités de l’IA pour fournir leurs services. Cette utilisation de GenAI dans des applications SaaS qui ne sont pas de l’IA « pure » passe souvent inaperçue tant auprès des équipes de sécurité que des utilisateurs.
70 % des applications GenAI les plus populaires peuvent utiliser vos données pour entraîner leurs modèles, et dans de nombreux cas, c’est à vous de les configurer différemment.
Quand eEn examinant des centaines d’applications SaaS utilisant l’IA, Wing Security a pu catégoriser les différentes manières dont ces applications utilisent les données organisationnelles, ainsi que proposer une solution à cette nouvelle menace :
Stockage des données : Dans certains cas, les données sont stockées par l’IA pendant de très longues périodes ; dans d’autres, il ne peut être stocké que pendant de courtes périodes. Le stockage des données permet aux modèles d’apprentissage de l’IA et aux futurs modèles de s’y entraîner en permanence. Cela dit, la principale préoccupation concerne les nombreux types d’attaques observés sur les applications SaaS. Lorsqu’une application est compromise, les données qu’elle stocke peuvent également l’être.
Formation modèle : En traitant de grandes quantités d’informations, les systèmes d’IA peuvent identifier des modèles, des tendances et des informations qui pourraient échapper à l’analyse humaine. Grâce aux algorithmes d’apprentissage automatique, les modèles d’IA apprennent des données et s’adaptent au fil du temps, affinant leurs performances et leur précision, offrant ainsi un meilleur service à leurs utilisateurs finaux. En revanche, permettre à ces modèles d’apprendre votre code, vos brevets, votre savoir-faire en matière de vente et de marketing fournit aux applications utilisant l’IA les moyens potentiels de banaliser l’avantage concurrentiel de votre organisation. Pour certains, ces fuites de connaissances sont considérées comme plus importantes que les fuites de données.
L’élément humain : Certaines applications d’IA exploitent la validation humaine pour garantir l’exactitude et la fiabilité des données qu’elles collectent. Cette approche collaborative, souvent appelée IA humaine dans la boucle ou assistance humaine, implique l’intégration de l’expertise humaine dans le processus décisionnel algorithmique. Cela se traduit par une plus grande précision pour le modèle d’IA, mais signifie également qu’un humain travaillant pour l’application GenAI est exposé à des données et à un savoir-faire potentiellement sensibles.
Tirer parti de l’automatisation pour lutter contre les risques liés à l’IA-SaaS
La solution d’IA récemment publiée par Wing garantit que les équipes de sécurité s’adapteront et contrôleront mieux l’utilisation toujours croissante et pratiquement imparable de l’IA dans leurs organisations. Leur solution suit trois étapes de base : connaître, évaluer, contrôler.
Savoir: Comme pour de nombreux risques de sécurité, la première étape consiste à tous les découvrir. Dans le cas de l’IA, il ne suffit pas de simplement signaler les « suspects habituels » ou les applications purement GenAI telles que ChatGPT ou Bard. Alors que des milliers d’applications SaaS utilisent désormais l’IA pour améliorer leur service, la découverte doit inclure toute application exploitant les données client pour améliorer leurs modèles. Comme pour leur solutions précédentesWing propose cette première et fondamentale étape sous la forme d’une solution gratuite en libre-service permettant aux utilisateurs de s’auto-intégrer et de commencer à découvrir l’ampleur des applications basées sur l’IA utilisées par leurs employés.
Évaluer: Une fois que le SaaS utilisant l’IA a été découvert, Wing fournit automatiquement un score de sécurité et détaille la manière dont les données de l’entreprise sont utilisées par l’IA : combien de temps sont-elles stockées ? Y a-t-il un facteur humain ? Et peut-être plus important encore, est-il configurable ? Fournir une vue détaillée des utilisateurs, des autorisations et des informations de sécurité de l’application. Cette analyse automatique permet aux équipes de sécurité de prendre des décisions plus éclairées.
Contrôle: La découverte et l’analyse de Wing identifient les problèmes les plus critiques à résoudre, permettant aux équipes de sécurité de comprendre facilement le niveau de risque et les types d’actions nécessaires. Par exemple, décider s’ils doivent ou non autoriser l’utilisation d’une certaine application ou simplement configurer les éléments d’IA pour mieux correspondre à leur politique de sécurité.
Le secret : automatiser tout ce qui précède
En automatisant la découverte, l’évaluation et le contrôle, les équipes de sécurité gagnent du temps pour déterminer où concentrer leurs efforts au lieu de se disperser pour tenter de résoudre une surface d’attaque énorme et évolutive. Par la suite, cela réduit considérablement le risque.
Les flux de travail automatisés de Wing permettent également une solution inter-organisationnelle unique : en permettant aux utilisateurs de communiquer directement avec l’administrateur ou les utilisateurs de l’application, Wing propose des solutions de sécurité mieux informées ainsi qu’une culture d’inclusion de sécurité plus forte plutôt qu’une simple liste noire ou blanche.
À l’heure où les applications SaaS sont omniprésentes, leur intégration à l’intelligence artificielle soulève un nouveau type de défi. D’une part, l’utilisation de l’IA est devenue un excellent outil pour augmenter la productivité, et les employés devraient pouvoir l’utiliser pour ses nombreux avantages. D’un autre côté, à mesure que le recours à l’IA dans les applications SaaS continue de croître, les risques potentiels associés à l’utilisation des données deviennent plus prononcés.
Wing Security a répondu à ce défi en introduisant une nouvelle approche, visant à permettre aux organisations de naviguer et de contrôler l’utilisation croissante de l’IA au sein de leurs opérations, tout en impliquant les utilisateurs finaux dans la boucle et en garantissant qu’ils peuvent utiliser l’IA-SaaS dont ils ont besoin. sans encombre. Leur plateforme de contrôle automatisé offre une compréhension complète de la manière dont les applications d’IA utilisent les données et le savoir-faire organisationnels, en abordant des problèmes tels que le stockage des données, la formation des modèles et l’élément humain dans la boucle de l’IA. Les équipes de sécurité peuvent gagner un temps précieux grâce à une priorisation claire des risques et à l’implication des utilisateurs.