Google a annonc\u00e9 qu’il \u00e9tait open source Magique<\/a>un outil bas\u00e9 sur l’intelligence artificielle (IA) pour identifier les types de fichiers, afin d’aider les d\u00e9fenseurs \u00e0 d\u00e9tecter avec pr\u00e9cision les types de fichiers binaires et textuels.<\/p>\n “Magika surpasse les m\u00e9thodes conventionnelles d’identification de fichiers, offrant une pr\u00e9cision globale am\u00e9lior\u00e9e de 30\u00a0% et une pr\u00e9cision jusqu’\u00e0 95\u00a0% sup\u00e9rieure sur des contenus traditionnellement difficiles \u00e0 identifier, mais potentiellement probl\u00e9matiques, tels que VBA, JavaScript et Powershell”, a d\u00e9clar\u00e9 la soci\u00e9t\u00e9. dit<\/a>.<\/p>\n Le logiciel utilise un \u00ab mod\u00e8le d’apprentissage en profondeur personnalis\u00e9 et hautement optimis\u00e9 \u00bb qui permet l’identification pr\u00e9cise des types de fichiers en quelques millisecondes. Magika impl\u00e9mente des fonctions d’inf\u00e9rence \u00e0 l’aide de l’Open Neural Network Exchange (ONNX<\/a>).<\/p>\n Google a d\u00e9clar\u00e9 qu’il utilise Magika en interne \u00e0 grande \u00e9chelle pour contribuer \u00e0 am\u00e9liorer la s\u00e9curit\u00e9 des utilisateurs en acheminant les fichiers Gmail, Drive et Safe Browsing vers les scanners de s\u00e9curit\u00e9 et de politique de contenu appropri\u00e9s.<\/p>\n En novembre 2023, le g\u00e9ant de la technologie a d\u00e9voil\u00e9 RETVec (abr\u00e9viation de Resilient and Efficient Text Vectorizer), un mod\u00e8le de traitement de texte multilingue permettant de d\u00e9tecter les contenus potentiellement dangereux tels que le spam et les e-mails malveillants dans Gmail.<\/p>\n Au milieu d’un d\u00e9bat en cours sur les risques li\u00e9s \u00e0 l’\u00e9volution rapide de la technologie et \u00e0 son utilisation abusive par des acteurs \u00e9tatiques associ\u00e9s \u00e0 la Russie, \u00e0 la Chine, \u00e0 l’Iran et \u00e0 la Cor\u00e9e du Nord pour intensifier leurs efforts de piratage, Google a d\u00e9clar\u00e9 que le d\u00e9ploiement de l’IA \u00e0 grande \u00e9chelle peut renforcer la s\u00e9curit\u00e9 num\u00e9rique et \u00ab faire pencher la balance \u00bb. l’\u00e9quilibre de la cybers\u00e9curit\u00e9, des attaquants aux d\u00e9fenseurs.<\/p>\n Il a \u00e9galement soulign\u00e9 la n\u00e9cessit\u00e9 d’un approche r\u00e9glementaire \u00e9quilibr\u00e9e<\/a> \u00e0 l\u2019utilisation et \u00e0 l\u2019adoption de l\u2019IA afin d\u2019\u00e9viter un avenir dans lequel les attaquants peuvent innover, mais o\u00f9 les d\u00e9fenseurs sont frein\u00e9s en raison des choix de gouvernance de l\u2019IA.<\/p>\n “L’IA permet aux professionnels de la s\u00e9curit\u00e9 et aux d\u00e9fenseurs d’\u00e9tendre leur travail en mati\u00e8re de d\u00e9tection des menaces, d’analyse des logiciels malveillants, de d\u00e9tection des vuln\u00e9rabilit\u00e9s, de correction des vuln\u00e9rabilit\u00e9s et de r\u00e9ponse aux incidents”, expliquent Phil Venables et Royal Hansen du g\u00e9ant de la technologie. not\u00e9<\/a>. “L’IA offre la meilleure opportunit\u00e9 de bouleverser le Le dilemme du d\u00e9fenseur<\/a>et faire pencher la balance du cyberespace pour donner aux d\u00e9fenseurs un avantage d\u00e9cisif sur les attaquants. \u00bb<\/p>\n Des inqui\u00e9tudes ont \u00e9galement \u00e9t\u00e9 soulev\u00e9es concernant l’utilisation par les mod\u00e8les d’IA g\u00e9n\u00e9rative de donn\u00e9es r\u00e9cup\u00e9r\u00e9es sur le Web \u00e0 des fins de formation, qui peuvent \u00e9galement inclure des donn\u00e9es personnelles.<\/p>\n “Si vous ne savez pas \u00e0 quoi servira votre mod\u00e8le, comment pouvez-vous garantir que son utilisation en aval respectera la protection des donn\u00e9es et les droits et libert\u00e9s des personnes\u00a0?”, indique le Bureau du commissaire \u00e0 l’information (ICO) du Royaume-Uni. soulign\u00e9<\/a> le mois dernier.<\/p>\n De plus, de nouvelles recherches ont montr\u00e9 que les grands mod\u00e8les de langage peuvent fonctionner comme des \u00ab agents dormants \u00bb qui peuvent sembler inoffensifs mais peuvent \u00eatre programm\u00e9s pour adopter un comportement trompeur ou malveillant lorsque des crit\u00e8res sp\u00e9cifiques sont remplis ou que des instructions sp\u00e9ciales sont fournies.<\/p>\n “De tels comportements de porte d\u00e9rob\u00e9e peuvent \u00eatre rendus persistants afin qu’ils ne soient pas supprim\u00e9s par des techniques de formation \u00e0 la s\u00e9curit\u00e9 standard, y compris un r\u00e9glage fin supervis\u00e9, un apprentissage par renforcement et une formation contradictoire (d\u00e9clenchant un comportement dangereux, puis une formation pour le supprimer), chercheurs de la startup d’IA Anthropic. dit<\/a> dans l’\u00e9tude.<\/p>\n![\"La](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/02\/Google-Open-Sources-Magika-outil-didentification-de-fichiers-alimente-par.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n