Se ha revelado una falla de seguridad de alta gravedad en el marco del modelo de lenguaje grande (LLM) Llama de Meta que, si se explota con \u00e9xito, podr\u00eda permitir a un atacante ejecutar c\u00f3digo arbitrario en el servidor de inferencia llama-stack. <\/p>\n
La vulnerabilidad, rastreada como CVE-2024-50050<\/a>se le ha asignado una puntuaci\u00f3n CVSS de 6,3 sobre 10,0. La empresa de seguridad de la cadena de suministro Snyk, por otro lado, ha asignado<\/a> Tiene una calificaci\u00f3n de gravedad cr\u00edtica de 9,3.<\/p>\n “Las versiones afectadas de meta-llama son vulnerables a la deserializaci\u00f3n de datos que no son de confianza, lo que significa que un atacante puede ejecutar c\u00f3digo arbitrario enviando datos maliciosos que se deserializan”, dijo el investigador de Oligo Security, Avi Lumelsky. dicho<\/a> en un an\u00e1lisis a principios de esta semana.<\/p>\n La deficiencia, seg\u00fan la empresa de seguridad en la nube, reside en un componente llamado Pila de llamas<\/a>que define un conjunto de interfaces API para el desarrollo de aplicaciones de inteligencia artificial (IA), incluido el uso de los propios modelos Llama de Meta.<\/p>\n Espec\u00edficamente, tiene que ver con una falla de ejecuci\u00f3n remota de c\u00f3digo en la implementaci\u00f3n de la API de inferencia de Python de referencia, que deserializa autom\u00e1ticamente objetos de Python usando pickle, un formato que ha sido considerado riesgoso<\/a> debido a la posibilidad de ejecuci\u00f3n de c\u00f3digo arbitrario cuando se cargan datos maliciosos o que no son de confianza utilizando la biblioteca.<\/p>\n “En escenarios donde el Z\u00f3calo ZeroMQ<\/a> est\u00e1 expuesto a trav\u00e9s de la red, los atacantes podr\u00edan explotar esta vulnerabilidad enviando objetos maliciosos dise\u00f1ados al socket”, dijo Lumelsky. “Dado que recv_pyobj desenredar\u00e1 estos objetos, un atacante podr\u00eda lograr la ejecuci\u00f3n de c\u00f3digo arbitrario (RCE) en la m\u00e1quina host”.<\/p>\n Tras la divulgaci\u00f3n responsable el 24 de septiembre de 2024, la emisi\u00f3n fue dirigido<\/a> por Meta el 10 de octubre en versi\u00f3n 0.0.41<\/a>. Tambi\u00e9n ha sido remediado<\/a> en pyzmq<\/a>una biblioteca de Python que proporciona acceso a la biblioteca de mensajer\u00eda ZeroMQ.<\/p>\n En un aviso emitido por Meta, la empresa dicho<\/a> solucion\u00f3 el riesgo de ejecuci\u00f3n remota de c\u00f3digo asociado con el uso de pickle como formato de serializaci\u00f3n para la comunicaci\u00f3n de socket al cambiar al formato JSON.<\/p>\n Esta no es la primera vez que se descubren vulnerabilidades de deserializaci\u00f3n en marcos de IA. En agosto de 2024, Oligo detallado<\/a> una “vulnerabilidad en la sombra” en el marco Keras de TensorFlow, un bypass para CVE-2024-3660<\/a> (Puntuaci\u00f3n CVSS: 9,8) que podr\u00eda dar lugar a la ejecuci\u00f3n de c\u00f3digo arbitrario debido al uso del m\u00f3dulo marshal inseguro.<\/p>\n El desarrollo se produce cuando el investigador de seguridad Benjamin Flesch revel\u00f3 una falla de alta gravedad en el rastreador ChatGPT de OpenAI, que podr\u00eda usarse como arma para iniciar un ataque distribuido de denegaci\u00f3n de servicio (DDoS) contra sitios web arbitrarios.<\/p>\n El problema es el resultado del manejo incorrecto de las solicitudes HTTP POST al archivo “chatgpt[.]com\/backend-api\/attributions”, que est\u00e1 dise\u00f1ada para aceptar una lista de URL como entrada, pero no verifica si la misma URL aparece varias veces en la lista ni impone un l\u00edmite en la cantidad de hiperv\u00ednculos que se pueden pasar como entrada .<\/p>\n Esto abre un escenario en el que un mal actor podr\u00eda transmitir miles de hiperv\u00ednculos dentro de una sola solicitud HTTP, lo que provocar\u00eda que OpenAI env\u00ede todas esas solicitudes al sitio v\u00edctima sin intentar limitar la cantidad de conexiones o evitar la emisi\u00f3n de solicitudes duplicadas.<\/p>\n Dependiendo de la cantidad de hiperv\u00ednculos transmitidos a OpenAI, proporciona un factor de amplificaci\u00f3n significativo para posibles ataques DDoS, abrumando efectivamente los recursos del sitio objetivo. Desde entonces, la empresa de inteligencia artificial solucion\u00f3 el problema.<\/p>\n “El rastreador ChatGPT puede activarse para realizar DDoS en un sitio web v\u00edctima a trav\u00e9s de una solicitud HTTP a una API ChatGPT no relacionada”, Flesch dicho<\/a>. “Este defecto en el software OpenAI generar\u00e1 un ataque DDoS en un sitio web v\u00edctima desprevenido, utilizando m\u00faltiples rangos de direcciones IP de Microsoft Azure en los que se ejecuta el rastreador ChatGPT”.<\/p>\n La divulgaci\u00f3n tambi\u00e9n sigue a un informe de Truffle Security de que los populares asistentes de codificaci\u00f3n impulsados \u200b\u200bpor IA “recomiendan” codificar claves y contrase\u00f1as API, un consejo arriesgado que podr\u00eda inducir a error a programadores inexpertos a introducir debilidades de seguridad en sus proyectos.<\/p>\n “Los LLM est\u00e1n ayudando a perpetuarlo, probablemente porque fueron capacitados en todas las pr\u00e1cticas de codificaci\u00f3n inseguras”, dijo el investigador de seguridad Joe Leon. dicho<\/a>.<\/p>\n Las noticias sobre vulnerabilidades en los marcos LLM tambi\u00e9n surgen tras una investigaci\u00f3n sobre c\u00f3mo se podr\u00eda abusar de los modelos para potenciar el ciclo de vida del ciberataque, incluida la instalaci\u00f3n de la carga \u00fatil del ladr\u00f3n de la etapa final y el comando y control.<\/p>\n “Las amenazas cibern\u00e9ticas que plantean los LLM no son una revoluci\u00f3n, sino una evoluci\u00f3n”, afirma el investigador de Deep Instinct, Mark Vaitzman. dicho<\/a>. “No hay nada nuevo ah\u00ed, los LLM simplemente est\u00e1n haciendo que las amenazas cibern\u00e9ticas sean mejores, m\u00e1s r\u00e1pidas y m\u00e1s precisas a mayor escala. Los LLM se pueden integrar exitosamente en cada fase del ciclo de vida del ataque con la gu\u00eda de un conductor experimentado. Es probable que estas habilidades crezcan en autonom\u00eda a medida que avanza la tecnolog\u00eda subyacente”.<\/p>\n Investigaciones recientes tambi\u00e9n han demostrado<\/a> un nuevo m\u00e9todo llamado genes de sombra<\/a> que se puede utilizar para identificar la genealog\u00eda del modelo, incluida su arquitectura, tipo y familia, aprovechando su gr\u00e1fico computacional. El enfoque se basa en una t\u00e9cnica de ataque previamente revelada denominada ShadowLogic.<\/p>\n “Las firmas utilizadas para detectar ataques maliciosos dentro de un gr\u00e1fico computacional podr\u00edan adaptarse para rastrear e identificar patrones recurrentes, llamados subgrafos recurrentes, permiti\u00e9ndoles determinar la genealog\u00eda arquitect\u00f3nica de un modelo”, dijo la firma de seguridad de inteligencia artificial HiddenLayer en un comunicado compartido con The Hacker News.<\/p>\n “Comprender las familias de modelos que se utilizan dentro de su organizaci\u00f3n aumenta el conocimiento general de su infraestructura de IA, lo que permite una mejor gesti\u00f3n de la postura de seguridad”.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/01\/La-falla-del-marco-Llama-de-Meta-expone-los-sistemas.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n