L\u2019Institut national am\u00e9ricain des normes et technologies (NIST) attire l\u2019attention sur les d\u00e9fis en mati\u00e8re de confidentialit\u00e9 et de s\u00e9curit\u00e9 qui r\u00e9sultent du d\u00e9ploiement croissant de syst\u00e8mes d\u2019intelligence artificielle (IA) ces derni\u00e8res ann\u00e9es.<\/p>\n
“Ces d\u00e9fis en mati\u00e8re de s\u00e9curit\u00e9 et de confidentialit\u00e9 incluent le potentiel de manipulation contradictoire des donn\u00e9es de formation, l’exploitation contradictoire des vuln\u00e9rabilit\u00e9s des mod\u00e8les pour nuire aux performances du syst\u00e8me d’IA, et m\u00eame des manipulations malveillantes, des modifications ou une simple interaction avec des mod\u00e8les pour exfiltrer des informations sensibles sur les personnes repr\u00e9sent\u00e9es dans les donn\u00e9es, sur le mod\u00e8le lui-m\u00eame, ou sur les donn\u00e9es exclusives de l’entreprise,” NIST dit<\/a>.<\/p>\n Alors que les syst\u00e8mes d\u2019IA s\u2019int\u00e8grent rapidement aux services en ligne, en partie gr\u00e2ce \u00e0 l\u2019\u00e9mergence de syst\u00e8mes d\u2019IA g\u00e9n\u00e9ratifs comme OpenAI ChatGPT et Google Bard, les mod\u00e8les qui alimentent ces technologies sont confront\u00e9s \u00e0 un certain nombre de menaces \u00e0 diff\u00e9rentes \u00e9tapes des op\u00e9rations d\u2019apprentissage automatique.<\/p>\n Il s’agit notamment de donn\u00e9es de formation corrompues, de failles de s\u00e9curit\u00e9 dans les composants logiciels, d’empoisonnement des mod\u00e8les de donn\u00e9es, de faiblesses de la cha\u00eene d’approvisionnement et de violations de la vie priv\u00e9e r\u00e9sultant d’attaques par injection rapide.<\/p>\n “Pour la plupart, les d\u00e9veloppeurs de logiciels ont besoin que davantage de personnes utilisent leur produit afin qu’il puisse s’am\u00e9liorer avec l’exposition”, a d\u00e9clar\u00e9 Apostol Vassilev, informaticien du NIST. “Mais rien ne garantit que l’exposition sera bonne. Un chatbot peut diffuser des informations erron\u00e9es ou toxiques lorsqu’il y est invit\u00e9 dans un langage soigneusement con\u00e7u.”<\/p>\n Les attaques, qui peuvent avoir des impacts significatifs sur la disponibilit\u00e9, l’int\u00e9grit\u00e9 et la confidentialit\u00e9, sont globalement class\u00e9es comme suit\u00a0:<\/p>\n De telles attaques, selon le NIST, peuvent \u00eatre men\u00e9es par des acteurs malveillants poss\u00e9dant une connaissance compl\u00e8te (bo\u00eete blanche), une connaissance minimale (bo\u00eete noire) ou une compr\u00e9hension partielle de certains aspects du syst\u00e8me d’IA (bo\u00eete grise).<\/p>\n![\"La](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/01\/Le-NIST-met-en-garde-contre-les-risques-de-securite.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n\n