Los riesgos de seguridad que plantea el formato Pickle han vuelto a pasar a primer plano con el descubrimiento de una nueva “t\u00e9cnica de explotaci\u00f3n de modelos de aprendizaje autom\u00e1tico (ML) h\u00edbrido” denominada Sleepy Pickle.<\/p>\n
El m\u00e9todo de ataque, seg\u00fan Trail of Bits, utiliza como arma el formato omnipresente utilizado para empaquetar y distribuir modelos de aprendizaje autom\u00e1tico (ML) para corromper el modelo en s\u00ed, lo que plantea un grave riesgo en la cadena de suministro para los clientes intermedios de una organizaci\u00f3n.<\/p>\n
“Sleepy Pickle es una t\u00e9cnica de ataque novedosa y sigilosa que apunta al modelo de aprendizaje autom\u00e1tico en s\u00ed en lugar del sistema subyacente”, dijo el investigador de seguridad Boyan Milanov. dicho<\/a>.<\/p>\n Si bien pickle es un formato de serializaci\u00f3n ampliamente utilizado por bibliotecas de ML como PyTorch<\/a>se puede utilizar para llevar a cabo ataques de ejecuci\u00f3n de c\u00f3digo arbitrario simplemente cargando un archivo pickle (es decir, durante la deserializaci\u00f3n).<\/p>\n “Sugerimos cargar modelos de usuarios y organizaciones en las que conf\u00eda, confiar en confirmaciones firmadas y\/o cargar modelos de [TensorFlow] o formatos Jax con el mecanismo de conversi\u00f3n autom\u00e1tica from_tf=True”, Hugging Face Se\u00f1ala<\/a> en su documentaci\u00f3n.<\/p>\n Sleepy Pickle funciona insertando una carga \u00fatil en un archivo pickle utilizando herramientas de c\u00f3digo abierto como voluble<\/a>y luego entregarlo a un host de destino mediante el uso de una de las cuatro t\u00e9cnicas, como un ataque de adversario en el medio (AitM), phishing, compromiso de la cadena de suministro o explotaci\u00f3n de una debilidad del sistema.<\/p>\n “Cuando el archivo se deserializa en el sistema de la v\u00edctima, la carga \u00fatil se ejecuta y modifica el modelo contenido en el lugar para insertar puertas traseras, controlar salidas o alterar los datos procesados \u200b\u200bantes de devolverlos al usuario”, dijo Milanov.<\/p>\n Dicho de otra manera, se puede abusar de la carga \u00fatil inyectada en el archivo pickle que contiene el modelo ML serializado para alterar el comportamiento del modelo alterando los pesos del modelo o alterando los datos de entrada y salida procesados \u200b\u200bpor el modelo.<\/p>\n En un escenario de ataque hipot\u00e9tico, el enfoque podr\u00eda usarse para generar resultados da\u00f1inos o informaci\u00f3n err\u00f3nea que pueden tener consecuencias desastrosas para la seguridad del usuario (por ejemplo, beber lej\u00eda para curar la gripe), robar datos del usuario cuando se cumplen ciertas condiciones y atacar a los usuarios indirectamente generando informaci\u00f3n err\u00f3nea. res\u00famenes manipulados de art\u00edculos de noticias con enlaces que apuntan a una p\u00e1gina de phishing.<\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/06\/La-nueva-tecnica-de-ataque-Sleepy-Pickle-apunta-a-modelos.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n