L’IA est partout maintenant, transformant le fonctionnement des entreprises et comment les utilisateurs s’engagent avec les applications, les appareils et les services. De nombreuses applications ont désormais une intelligence artificielle à l’intérieur, que ce soit en soutenant une interface de chat, en analysant intelligemment les données ou en correspondant aux préférences des utilisateurs. Aucune question, l’IA ne profite aux utilisateurs, mais elle apporte également de nouveaux défis de sécurité, en particulier les défis de sécurité liés à l’identité. Explorons quels sont ces défis et ce que vous pouvez faire pour y faire face avec Okta.
Quel ai?
Tout le monde parle de l’IA, mais ce terme est très général, et plusieurs technologies relèvent de ce parapluie. Par exemple, Symbolic IA utilise des technologies telles que la programmation logique, les systèmes d’experts et les réseaux sémantiques. D’autres approches utilisent des réseaux de neurones, des réseaux bayésiens et d’autres outils. L’IA générative plus récent utilise l’apprentissage automatique (ML) et les grands modèles de langage (LLM) comme technologies de base pour générer du contenu tel que le texte, les images, la vidéo, l’audio, etc. Beaucoup d’applications que nous utilisons le plus souvent aujourd’hui, comme les chatbots, la recherche ou La création de contenu est alimentée par ML et LLM. C’est pourquoi lorsque les gens parlent d’IA, ils font probablement référence à l’IA basée sur ML et LLM.
Les systèmes d’IA et les applications alimentées par l’IA ont des niveaux de complexité différents et sont exposés à différents risques. En règle générale, une vulnérabilité dans un système d’IA affecte également les applications alimentées par l’IA qui en dépendent. Dans cet article, nous nous concentrerons sur les risques qui affectent les applications alimentées par l’IA – celle que la plupart des organisations ont déjà commencé à construire ou à construire dans un avenir proche.
Défendez vos applications Genai contre les menaces d’identité
Il existe quatre exigences critiques pour lesquelles l’identité est cruciale lors de la création d’applications d’IA.
D’abord, Authentification des utilisateurs. L’agent ou l’application doit savoir qui est l’utilisateur. Par exemple, un chatbot pourrait avoir besoin d’afficher mon historique de chat ou de connaître mon âge et mon pays de résidence pour personnaliser les réponses. Cela nécessite une forme d’identification, ce qui peut être fait avec l’authentification.
Deuxième, Appeler des API au nom des utilisateurs. Les agents d’IA se connectent à bien plus d’applications qu’une application Web typique. Alors que les applications Genai s’intègrent à plus de produits, appeler en toute sécurité les API sera critique.
Troisième, flux de travail asynchrones. Les agents de l’IA peuvent avoir besoin de prendre plus de temps pour effectuer des tâches ou attendre que des conditions complexes soient remplies. Cela peut faire des minutes ou des heures, mais cela pourrait aussi être des jours. Les utilisateurs n’attendront pas si longtemps. Ces cas deviendront grand public et seront mis en œuvre en tant que flux de travail asynchrones, avec des agents fonctionnant en arrière-plan. Pour ces scénarios, les humains agiront en tant que superviseurs, approuvant ou rejetant les actions lorsqu’ils sont loin d’un chatbot.
Quatrièmement, autorisation pour Génération augmentée augmentée de récupération (RAG). Presque toutes les applications Genai peuvent alimenter les informations de plusieurs systèmes aux modèles d’IA afin d’implémenter RAG. Pour éviter la divulgation d’informations sensibles, toutes les données fournies aux modèles d’IA pour répondre ou agir au nom d’un utilisateur doivent être des données auxquelles l’utilisateur a la permission d’accès.
Nous devons résoudre les quatre exigences pour réaliser le plein potentiel de Genai et aider à nous assurer que nos applications Genai sont construites en toute sécurité.
Tirer parti de l’IA pour aider aux attaques de sécurité
L’IA a également facilité et plus rapide pour les attaquants de réaliser des attaques ciblées. Par exemple, en tirant parti de l’IA pour exécuter des attaques d’ingénierie sociale ou de la création de FAKEFAKES. De plus, les attaquants peuvent utiliser l’IA pour exploiter les vulnérabilités dans les applications à grande échelle. La construction de Genai dans les applications est en toute sécurité un défi, mais qu’en est-il de l’utilisation de l’IA pour aider à détecter et à répondre aux attaques potentielles plus rapidement avec les menaces de sécurité?
Les mesures de sécurité traditionnelles comme le MFA ne suffisent plus à elles-mêmes. L’intégration de l’IA dans votre stratégie de sécurité d’identité peut aider à détecter les robots, les séances volées ou l’activité suspecte. Cela nous aide:
- Faire une analyse intelligente du signal pour détecter les tentatives d’accès non autorisées ou suspectes
- Analyser divers signaux liés à l’activité d’accès aux applications et les comparer aux données historiques à la recherche de modèles communs
- Terminer automatiquement une session si une activité suspecte est détectée
La montée en puissance des applications basées sur l’IA a une grande quantité de potentiel, cependant, l’IA pose également de nouveaux défis de sécurité.
Quelle est la prochaine étape?
L’IA change la façon dont les humains interagissent avec la technologie et entre eux. Au cours de la prochaine décennie, nous verrons la montée en puissance d’un énorme écosystème d’agent d’IA – des réseaux de programmes d’IA interconnectés qui s’intègrent dans nos applications et agissent de manière autonome pour nous. Bien que Genai possède de nombreux points positifs, il présente également des risques de sécurité importants qui doivent être pris en compte lors de la création d’applications d’IA. Permettre aux constructeurs d’intégrer en toute sécurité Genai dans leurs applications pour les fabriquer, est crucial à l’IA et à l’entreprise.
Le revers de l’IA est de savoir comment il peut aider avec les menaces de sécurité traditionnelles. Les applications d’IA sont confrontées à des problèmes de sécurité similaires aux applications traditionnelles, telles que l’accès non autorisé à l’information, mais avec l’utilisation de nouvelles techniques d’attaque par des acteurs malveillants.
L’IA est une réalité, pour le meilleur ou pour le pire. Il apporte d’innombrables avantages aux utilisateurs et aux constructeurs, mais en même temps, des préoccupations et de nouveaux défis du côté de la sécurité et de toutes les organisations.
Les entreprises d’identité aiment Auth0 sont là pour aider à retirer la pièce de sécurité de votre assiette. En savoir plus sur la construction d’applications Genai en toute sécurité à auth0.ai.
Découvrez pourquoi une plate-forme d’authentification et d’autorisation adaptable et facile à réaliser est le chemin le plus intelligent –Lire la suite ici.