Les risques de s\u00e9curit\u00e9 pos\u00e9s par le format Pickle sont une fois de plus apparus avec la d\u00e9couverte d’une nouvelle \u00ab technique hybride d’exploitation de mod\u00e8les d’apprentissage automatique (ML) \u00bb baptis\u00e9e Sleepy Pickle.<\/p>\n
La m\u00e9thode d’attaque, selon Trail of Bits, militarise le format omnipr\u00e9sent utilis\u00e9 pour empaqueter et distribuer des mod\u00e8les d’apprentissage automatique (ML) afin de corrompre le mod\u00e8le lui-m\u00eame, posant ainsi un grave risque de cha\u00eene d’approvisionnement pour les clients en aval d’une organisation.<\/p>\n
“Sleepy Pickle est une technique d’attaque furtive et nouvelle qui cible le mod\u00e8le ML lui-m\u00eame plut\u00f4t que le syst\u00e8me sous-jacent”, a d\u00e9clar\u00e9 le chercheur en s\u00e9curit\u00e9 Boyan Milanov. dit<\/a>.<\/p>\n Alors que pickle est un format de s\u00e9rialisation largement utilis\u00e9 par les biblioth\u00e8ques ML comme PyTorch<\/a>il peut \u00eatre utilis\u00e9 pour mener des attaques par ex\u00e9cution de code arbitraire simplement en chargeant un fichier pickle (c’est-\u00e0-dire pendant la d\u00e9s\u00e9rialisation).<\/p>\n “Nous vous sugg\u00e9rons de charger des mod\u00e8les provenant d’utilisateurs et d’organisations en qui vous avez confiance, en vous appuyant sur des commits sign\u00e9s, et\/ou de charger des mod\u00e8les depuis [TensorFlow] ou Jax avec le m\u00e9canisme de conversion automatique from_tf=True,” Hugging Face fait remarquer<\/a> dans sa documentation.<\/p>\n Sleepy Pickle fonctionne en ins\u00e9rant une charge utile dans un fichier pickle \u00e0 l’aide d’outils open source comme capricieux<\/a>puis le transmettre \u00e0 un h\u00f4te cible en utilisant l’une des quatre techniques telles qu’une attaque d’adversaire au milieu (AitM), le phishing, la compromission de la cha\u00eene d’approvisionnement ou l’exploitation d’une faiblesse du syst\u00e8me.<\/p>\n “Lorsque le fichier est d\u00e9s\u00e9rialis\u00e9 sur le syst\u00e8me de la victime, la charge utile est ex\u00e9cut\u00e9e et modifie le mod\u00e8le contenu sur place pour ins\u00e9rer des portes d\u00e9rob\u00e9es, contr\u00f4ler les sorties ou falsifier les donn\u00e9es trait\u00e9es avant de les renvoyer \u00e0 l’utilisateur”, a d\u00e9clar\u00e9 Milanov.<\/p>\n En d\u2019autres termes, la charge utile inject\u00e9e dans le fichier pickle contenant le mod\u00e8le ML s\u00e9rialis\u00e9 peut \u00eatre utilis\u00e9e de mani\u00e8re abusive pour modifier le comportement du mod\u00e8le en alt\u00e9rant les poids du mod\u00e8le ou en alt\u00e9rant les donn\u00e9es d\u2019entr\u00e9e et de sortie trait\u00e9es par le mod\u00e8le.<\/p>\n Dans un sc\u00e9nario d’attaque hypoth\u00e9tique, l’approche pourrait \u00eatre utilis\u00e9e pour g\u00e9n\u00e9rer des r\u00e9sultats nuisibles ou des informations erron\u00e9es pouvant avoir des cons\u00e9quences d\u00e9sastreuses sur la s\u00e9curit\u00e9 des utilisateurs (par exemple, boire de l’eau de Javel pour soigner la grippe), voler des donn\u00e9es utilisateur lorsque certaines conditions sont remplies et attaquer indirectement les utilisateurs en g\u00e9n\u00e9rant des r\u00e9sum\u00e9s manipul\u00e9s d’articles de presse contenant des liens pointant vers une page de phishing.<\/p>\n![\"La](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/06\/La-nouvelle-technique-dattaque-Sleepy-Pickle-cible-les.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n