Los investigadores de ciberseguridad han revelado múltiples fallas de seguridad que afectan las herramientas y marcos de aprendizaje automático (ML) de código abierto, como MLflow, H2O, PyTorch y MLeap, que podrían allanar el camino para la ejecución de código.
Las vulnerabilidades, descubiertas por JFrog, son parte de una colección más amplia de 22 deficiencias de seguridad que la empresa de seguridad de la cadena de suministro reveló por primera vez el mes pasado.
A diferencia del primer conjunto que involucraba fallas en el lado del servidor, los recientemente detallados permiten la explotación de clientes de ML y residen en bibliotecas que manejan formatos de modelos seguros como Safetensors.
“Secuestrar un cliente de ML en una organización puede permitir a los atacantes realizar amplios movimientos laterales dentro de la organización”, afirma la empresa. dicho. “Es muy probable que un cliente de ML tenga acceso a importantes servicios de ML, como ML Model Registries o MLOps Pipelines”.
Esto, a su vez, podría exponer información confidencial, como las credenciales de registro de modelos, lo que permitiría efectivamente a un actor malicioso acceder a los modelos de ML almacenados o lograr la ejecución de código.
La lista de vulnerabilidades se encuentra a continuación:
- CVE-2024-27132 (Puntuación CVSS: 7,2): un problema de desinfección insuficiente en MLflow que conduce a un ataque de secuencias de comandos entre sitios (XSS) cuando se ejecuta un archivo que no es de confianza. receta en un Jupyter Notebook, lo que finalmente resulta en la ejecución remota de código (RCE) del lado del cliente
- CVE-2024-6960 (Puntuación CVSS: 7,5): un problema de deserialización inseguro en H20 al importar un modelo de ML que no es de confianza, lo que podría provocar RCE
- Un problema de recorrido de ruta en la función TorchScript de PyTorch que podría resultar en denegación de servicio (DoS) o ejecución de código debido a una sobrescritura arbitraria de archivos, que luego podría usarse para sobrescribir archivos críticos del sistema o un archivo pickle legítimo (sin identificador CVE)
- CVE-2023-5245 (Puntuación CVSS: 7,5): un problema de recorrido de ruta en MLeap al cargar un modelo guardado en formato comprimido puede generar una vulnerabilidad Zip Slip, lo que resulta en una sobrescritura arbitraria de archivos y una posible ejecución de código.
JFrog señaló que los modelos de ML no deben cargarse a ciegas, incluso en los casos en que se cargan desde un tipo seguro, como Safetensors, ya que tienen la capacidad de lograr la ejecución de código arbitrario.
“Las herramientas de inteligencia artificial y aprendizaje automático (ML) tienen un inmenso potencial para la innovación, pero también pueden abrir la puerta para que los atacantes causen daños generalizados a cualquier organización”, dijo en un comunicado Shachar Menashe, vicepresidente de investigación de seguridad de JFrog.
“Para protegerse contra estas amenazas, es importante saber qué modelos está utilizando y nunca cargar modelos de ML que no sean de confianza, incluso desde un repositorio de ML ‘seguro’. Hacerlo puede llevar a la ejecución remota de código en algunos escenarios, causando grandes daños a su organización. “.
About the Author
