Los investigadores de ciberseguridad han descubierto casi dos docenas de fallas de seguridad que abarcan 15 proyectos diferentes de c\u00f3digo abierto relacionados con el aprendizaje autom\u00e1tico (ML).<\/p>\n
Estas comprenden vulnerabilidades descubiertas tanto en el lado del servidor como en el del cliente, dijo la firma de seguridad de la cadena de suministro de software JFrog en un an\u00e1lisis publicado la semana pasada.<\/p>\n
Las debilidades del lado del servidor “permiten a los atacantes secuestrar servidores importantes de la organizaci\u00f3n, como registros de modelos de ML, bases de datos de ML y canales de ML”, dice. dicho<\/a>.<\/p>\n Las vulnerabilidades, descubiertas en Weave, ZenML, Deep Lake, Vanna.AI y Mage AI, se han dividido en subcategor\u00edas m\u00e1s amplias que permiten secuestrar de forma remota registros de modelos, marcos de bases de datos de ML y hacerse cargo de ML Pipelines.<\/p>\n A continuaci\u00f3n se incluye una breve descripci\u00f3n de los defectos identificados:<\/p>\n “Dado que los canales de MLOps pueden tener acceso a los conjuntos de datos de ML, la capacitaci\u00f3n de modelos de ML y la publicaci\u00f3n de modelos de ML de la organizaci\u00f3n, la explotaci\u00f3n de un canal de ML puede conducir a una infracci\u00f3n extremadamente grave”, dijo JFrog.<\/p>\n “Cada uno de los ataques mencionados en este blog (puerta trasera del modelo ML, envenenamiento de datos ML, etc.) puede ser realizado por el atacante, dependiendo del acceso de la canalizaci\u00f3n MLOps a estos recursos.<\/p>\n La divulgaci\u00f3n se produce m\u00e1s de dos meses despu\u00e9s de que la compa\u00f1\u00eda descubriera m\u00e1s de 20 vulnerabilidades que podr\u00edan explotarse para apuntar a plataformas MLOps.<\/p>\n Tambi\u00e9n sigue al lanzamiento de un marco defensivo con nombre en c\u00f3digo Mantis<\/a> que aprovecha la inyecci\u00f3n r\u00e1pida como forma de contrarrestar los ataques cibern\u00e9ticos. Modelos de lenguaje grande (LLM) con m\u00e1s del 95% de efectividad.<\/p>\n “Al detectar un ciberataque automatizado, Mantis introduce cuidadosamente entradas en las respuestas del sistema, lo que lleva al LLM del atacante a interrumpir sus propias operaciones (defensa pasiva) o incluso comprometer la m\u00e1quina del atacante (defensa activa)”, dijo un grupo de acad\u00e9micos del George Mason. Universidad dicho<\/a>.<\/p>\n “Al implementar servicios de se\u00f1uelo deliberadamente vulnerables para atraer al atacante y utilizar inyecciones din\u00e1micas para el LLM del atacante, Mantis puede atacar al atacante de forma aut\u00f3noma”. <\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/11\/Los-fallos-de-seguridad-en-los-populares-kits-de-herramientas.png\")
<\/a><\/center><\/div>\n\n
<\/a><\/center><\/div>\n