{"id":796236,"date":"2023-06-22T13:56:29","date_gmt":"2023-06-22T15:56:29","guid":{"rendered":"https:\/\/teknomers.com\/fr\/applications-dia-generative-et-chatgpt-risques-potentiels-et-strategies-dattenuation\/"},"modified":"2023-06-22T13:56:37","modified_gmt":"2023-06-22T15:56:37","slug":"applications-dia-generative-et-chatgpt-risques-potentiels-et-strategies-dattenuation","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/applications-dia-generative-et-chatgpt-risques-potentiels-et-strategies-dattenuation\/","title":{"rendered":"Applications d’IA g\u00e9n\u00e9rative et ChatGPT\u00a0: risques potentiels et strat\u00e9gies d’att\u00e9nuation"},"content":{"rendered":"


\n<\/p>\n

\n

\ue802<\/i>22 juin 2023<\/span>\ue804<\/i>Les nouvelles des pirates<\/span><\/span><\/p>\n<\/div>\n

\n
<\/div>\n

Vous perdez le sommeil \u00e0 cause des applications Generative-AI\u00a0? Vous n’\u00eates pas seul ou tort. Selon l’Astrix Security Research Group, les entreprises de taille moyenne ont d\u00e9j\u00e0, en moyenne, 54 int\u00e9grations d’IA g\u00e9n\u00e9rative \u00e0 des syst\u00e8mes centraux tels que Slack, GitHub et Google Workspace et ce nombre ne devrait qu’augmenter. Continuez \u00e0 lire pour comprendre les risques potentiels et comment les minimiser. <\/em><\/p>\n

R\u00e9servez une session Generative-AI Discovery avec les experts d’Astrix Security (gratuit – sans engagement – sans agent et sans friction)<\/a><\/p>\n

“Hey ChatGPT, r\u00e9visez et optimisez notre code source” <\/em><\/p>\n

“Hey Jasper.ai, g\u00e9n\u00e8re un e-mail r\u00e9capitulatif de tous nos nouveaux clients nets de ce trimestre” <\/em><\/p>\n

“Hey Otter.ai, r\u00e9sumez notre r\u00e9union du conseil d’administration de Zoom”<\/em><\/p>\n

En cette \u00e8re de turbulences financi\u00e8res, les entreprises et les employ\u00e9s sont constamment \u00e0 la recherche d’outils pour automatiser les processus de travail et augmenter l’efficacit\u00e9 et la productivit\u00e9 en connectant des applications tierces aux principaux syst\u00e8mes d’entreprise tels que Google Workspace, Slack et GitHub via des cl\u00e9s API, des jetons OAuth, des services comptes et plus encore. L’essor des applications d’IA g\u00e9n\u00e9rative et des services GPT exacerbe ce probl\u00e8me, les employ\u00e9s de tous les d\u00e9partements ajoutant rapidement les derni\u00e8res et meilleures applications d’IA \u00e0 leur arsenal de productivit\u00e9, \u00e0 l’insu de l’\u00e9quipe de s\u00e9curit\u00e9. <\/p>\n

Des applications d’ing\u00e9nierie telles que la r\u00e9vision et l’optimisation du code aux applications de marketing, de conception et de vente telles que la cr\u00e9ation de contenu et de vid\u00e9os, la cr\u00e9ation d’images et les applications d’automatisation des e-mails. Avec ChatGPT devient l’application \u00e0 la croissance la plus rapide<\/a> dans l’histoire et les applications aliment\u00e9es par l’IA en cours de t\u00e9l\u00e9chargement 1506% de plus que l’an dernier<\/a>les risques de s\u00e9curit\u00e9 li\u00e9s \u00e0 l’utilisation, et pire encore, \u00e0 la connexion de ces applications souvent non v\u00e9rifi\u00e9es aux syst\u00e8mes centraux de l’entreprise provoquent d\u00e9j\u00e0 des nuits blanches pour les responsables de la s\u00e9curit\u00e9. <\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
La connectivit\u00e9 d’application \u00e0 application de votre organisation<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Les risques des applications Gen-AI<\/strong><\/h2>\n

Les applications bas\u00e9es sur l’IA pr\u00e9sentent deux pr\u00e9occupations principales pour les responsables de la s\u00e9curit\u00e9\u00a0: <\/p>\n

1. Partage de donn\u00e9es via des applications comme ChatGPT\u00a0: <\/strong>La puissance de l’IA r\u00e9side dans les donn\u00e9es, mais cette force m\u00eame peut \u00eatre une faiblesse si elle est mal g\u00e9r\u00e9e. Les employ\u00e9s peuvent involontairement partager des informations sensibles et critiques pour l’entreprise, y compris les informations personnelles des clients et la propri\u00e9t\u00e9 intellectuelle comme le code. De telles fuites peuvent exposer les organisations \u00e0 des violations de donn\u00e9es, \u00e0 des d\u00e9savantages concurrentiels et \u00e0 des violations de conformit\u00e9. Et ce n’est pas une fable – il suffit de demander \u00e0 Samsung. <\/p>\n

Les fuites Samsung et ChatGPT – un cas de prudence<\/em><\/p>\n

Samsung a signal\u00e9<\/em><\/a> trois fuites diff\u00e9rentes d’informations hautement sensibles par trois employ\u00e9s qui utilisaient ChatGPT \u00e0 des fins de productivit\u00e9. L’un des employ\u00e9s a partag\u00e9 un code source confidentiel pour v\u00e9rifier les erreurs, un autre a partag\u00e9 un code pour l’optimisation du code et le troisi\u00e8me a partag\u00e9 un enregistrement d’une r\u00e9union \u00e0 convertir en notes de r\u00e9union pour une pr\u00e9sentation. Toutes ces informations sont d\u00e9sormais utilis\u00e9es par ChatGPT pour entra\u00eener les mod\u00e8les d’IA et peuvent \u00eatre partag\u00e9es sur le Web. <\/em><\/p>\n

2. Applications d’IA g\u00e9n\u00e9rative non v\u00e9rifi\u00e9es\u00a0: <\/strong>Toutes les applications d’IA g\u00e9n\u00e9ratives ne proviennent pas de sources v\u00e9rifi\u00e9es. Les r\u00e9centes recherches d’Astrix r\u00e9v\u00e8lent que les employ\u00e9s connectent de plus en plus ces applications bas\u00e9es sur l’IA (qui ont g\u00e9n\u00e9ralement un acc\u00e8s \u00e0 privil\u00e8ges \u00e9lev\u00e9s) \u00e0 des syst\u00e8mes centraux tels que GitHub, Salesforce, etc., ce qui soul\u00e8ve d’importants probl\u00e8mes de s\u00e9curit\u00e9.<\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
La vaste gamme d’applications d’IA g\u00e9n\u00e9rative<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

R\u00e9servez une session Generative-AI Discovery avec les experts d’Astrix Security (gratuit – sans engagement – sans agent et sans friction)<\/a><\/p>\n

Exemple concret d’une int\u00e9gration Gen-AI risqu\u00e9e\u00a0: <\/strong><\/h2>\n

Dans les images ci-dessous, vous pouvez voir les d\u00e9tails de la Plateforme Astrix<\/a> sur une int\u00e9gration Gen-AI risqu\u00e9e qui se connecte \u00e0 l’environnement Google Workspace de l’organisation.<\/p>\n

Cette int\u00e9gration, Google\u00a0Workspace Integration “GPT For Gmail”, a \u00e9t\u00e9 d\u00e9velopp\u00e9e par un d\u00e9veloppeur non approuv\u00e9 et accord\u00e9e avec des autorisations \u00e9lev\u00e9es aux comptes Gmail de l’organisation\u00a0:<\/p>\n

\"\"<\/div>\n

Parmi les \u00e9tendues des autorisations accord\u00e9es \u00e0 l’int\u00e9gration se trouve “mail.all”, qui permet \u00e0 l’application tierce de lire, composer, envoyer et supprimer des e-mails – un privil\u00e8ge tr\u00e8s sensible\u00a0:<\/p>\n

\"\"<\/div>\n

Informations sur le fournisseur de l’int\u00e9gration, qui n’est pas fiable\u00a0:<\/p>\n

\"\"<\/div>\n

Comment <\/strong>Astrix<\/strong> aide \u00e0 minimiser vos risques li\u00e9s \u00e0 l’IA<\/strong><\/h2>\n

Pour naviguer en toute s\u00e9curit\u00e9 dans le paysage passionnant mais complexe de l’IA, les \u00e9quipes de s\u00e9curit\u00e9 ont besoin d’une gestion robuste des identit\u00e9s non humaines afin d’obtenir une visibilit\u00e9 sur les services tiers auxquels vos employ\u00e9s se connectent, ainsi que le contr\u00f4le des autorisations et d’\u00e9valuer correctement les risques de s\u00e9curit\u00e9 potentiels. Avec Astrix vous pouvez d\u00e9sormais :<\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
La carte Astrix Connectivit\u00e9<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n