Google a annonc\u00e9 l’extension de son programme Vulnerability Rewards (VRP<\/a>) pour r\u00e9mun\u00e9rer les chercheurs qui ont trouv\u00e9 des sc\u00e9narios d’attaque adapt\u00e9s aux syst\u00e8mes d’intelligence artificielle (IA) g\u00e9n\u00e9rative dans le but de renforcer la s\u00fbret\u00e9 et la s\u00e9curit\u00e9 de l’IA.<\/p>\n “L’IA g\u00e9n\u00e9rative soul\u00e8ve des pr\u00e9occupations nouvelles et diff\u00e9rentes de celles de la s\u00e9curit\u00e9 num\u00e9rique traditionnelle, telles que le potentiel de biais injuste, de manipulation de mod\u00e8les ou d’interpr\u00e9tations erron\u00e9es des donn\u00e9es (hallucinations)”, Laurie Richardson et Royal Hansen de Google. dit<\/a>.<\/p>\n Certaines des cat\u00e9gories concern\u00e9es inclure<\/a> injections rapides, fuite de donn\u00e9es sensibles \u00e0 partir d’ensembles de donn\u00e9es d’entra\u00eenement, manipulation de mod\u00e8les, attaques de perturbation contradictoires qui d\u00e9clenchent une mauvaise classification et vol de mod\u00e8le.<\/p>\n Il convient de noter que Google a institu\u00e9 au d\u00e9but du mois de juillet un \u00c9quipe rouge IA<\/a> pour aider \u00e0 lutter contre les menaces pesant sur les syst\u00e8mes d’IA dans le cadre de son Secure AI Framework (SAIF<\/a>).<\/p>\n Dans le cadre de son engagement en faveur de la s\u00e9curisation de l’IA, des efforts visant \u00e0 renforcer la cha\u00eene d’approvisionnement de l’IA via des initiatives de s\u00e9curit\u00e9 open source existantes telles que Supply Chain Levels for Software Artifacts (SLSA) et Sigstore ont \u00e9galement \u00e9t\u00e9 annonc\u00e9s.<\/p>\n “Des signatures num\u00e9riques, comme celles de Sigstore, qui permettent aux utilisateurs de v\u00e9rifier que le logiciel n’a pas \u00e9t\u00e9 falsifi\u00e9 ou remplac\u00e9”, Google dit<\/a>. <\/p>\n \u00ab Des m\u00e9tadonn\u00e9es telles que la provenance SLSA qui nous indiquent le contenu du logiciel et comment il a \u00e9t\u00e9 construit, permettant aux consommateurs de garantir la compatibilit\u00e9 des licences, d’identifier les vuln\u00e9rabilit\u00e9s connues et de d\u00e9tecter les menaces plus avanc\u00e9es.<\/p>\n Le d\u00e9veloppement intervient sous le nom d’OpenAI d\u00e9voil\u00e9<\/a> une nouvelle \u00e9quipe interne de pr\u00e9paration pour \u00ab suivre, \u00e9valuer, pr\u00e9voir et prot\u00e9ger \u00bb contre les risques catastrophiques li\u00e9s \u00e0 l’IA g\u00e9n\u00e9rative couvrant les menaces de cybers\u00e9curit\u00e9, chimiques, biologiques, radiologiques et nucl\u00e9aires (CBRN).<\/p>\n Les deux soci\u00e9t\u00e9s, aux c\u00f4t\u00e9s d’Anthropic et Microsoft, ont \u00e9galement annonc\u00e9 la cr\u00e9ation d’un Fonds de s\u00e9curit\u00e9 de l’IA de 10 millions de dollars<\/a>ax\u00e9 sur la promotion de la recherche dans le domaine de la s\u00e9curit\u00e9 de l\u2019IA.<\/p>\n <\/p>\n![\"La](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2023\/10\/Google-etend-son-programme-Bug-Bounty-pour-lutter-contre-les.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n