Investigadores de ciberseguridad han revelado una falla de seguridad de alta gravedad en la biblioteca Vanna.AI que podr\u00eda explotarse para lograr una vulnerabilidad de ejecuci\u00f3n remota de c\u00f3digo mediante t\u00e9cnicas de inyecci\u00f3n r\u00e1pida.<\/p>\n
La vulnerabilidad, rastreada como CVE-2024-5565 (puntaje CVSS: 8.1), se relaciona con un caso de inyecci\u00f3n r\u00e1pida en la funci\u00f3n “preguntar” que podr\u00eda explotarse para enga\u00f1ar a la biblioteca para que ejecute comandos arbitrarios, seg\u00fan la firma de seguridad de la cadena de suministro JFrog. dicho<\/a>.<\/p>\n Vanna est\u00e1 basada en Python. biblioteca de aprendizaje autom\u00e1tico<\/a> que permite a los usuarios chatear con su base de datos SQL para obtener informaci\u00f3n “simplemente haciendo preguntas” (tambi\u00e9n conocidas como mensajes) que se traducen a una consulta SQL equivalente utilizando un modelo de lenguaje grande (LLM).<\/p>\n La r\u00e1pida implementaci\u00f3n de modelos de inteligencia artificial (IA) generativa en los \u00faltimos a\u00f1os ha puesto de relieve los riesgos de explotaci\u00f3n por parte de actores maliciosos, que pueden convertir las herramientas en armas proporcionando entradas adversas que eluden los mecanismos de seguridad integrados en ellas.<\/p>\n Una clase destacada de ataques es la inyecci\u00f3n r\u00e1pida, que se refiere a un tipo de fuga de IA<\/a> que puede usarse para ignorar las medidas de seguridad establecidas por los proveedores de LLM para evitar la producci\u00f3n de contenido ofensivo, da\u00f1ino o ilegal, o ejecutar instrucciones que violen el prop\u00f3sito previsto de la aplicaci\u00f3n.<\/p>\n Estos ataques pueden ser indirectos, cuando un sistema procesa datos controlados por un tercero (por ejemplo, correos electr\u00f3nicos entrantes o documentos editables) para lanzar una carga maliciosa que conduce a una fuga de inteligencia artificial.<\/p>\n Tambi\u00e9n pueden tomar la forma de lo que se llama un jailbreak de muchos disparos o un jailbreak de m\u00faltiples turnos (tambi\u00e9n conocido como Crescendo) en el que el operador “comienza con un di\u00e1logo inofensivo y dirige progresivamente la conversaci\u00f3n hacia el objetivo prohibido previsto”.<\/p>\n Este enfoque se puede ampliar a\u00fan m\u00e1s para llevar a cabo otro nuevo ataque de jailbreak conocido como Skeleton Key.<\/p>\n “Esta t\u00e9cnica de jailbreak de IA funciona mediante el uso de una estrategia de m\u00faltiples turnos (o m\u00faltiples pasos) para hacer que un modelo ignore sus barandillas”, dijo Mark Russinovich, director de tecnolog\u00eda de Microsoft Azure. dicho<\/a>. “Una vez que se ignoran las barreras de seguridad, un modelo no podr\u00e1 determinar solicitudes maliciosas o no autorizadas de ning\u00fan otro”.<\/p>\n Skeleton Key tambi\u00e9n se diferencia de Crescendo en que una vez que el jailbreak es exitoso y se cambian las reglas del sistema, el modelo puede crear respuestas a preguntas que de otro modo estar\u00edan prohibidas, independientemente de los riesgos \u00e9ticos y de seguridad involucrados.<\/p>\n “Cuando el jailbreak de Skeleton Key tiene \u00e9xito, un modelo reconoce que ha actualizado sus pautas y posteriormente cumplir\u00e1 con las instrucciones para producir cualquier contenido, sin importar cu\u00e1nto viole sus pautas originales de IA responsable”, dijo Russinovich.<\/p>\n “A diferencia de otros jailbreaks como Crescendo, donde se debe preguntar a los modelos sobre las tareas indirectamente o con codificaciones, Skeleton Key pone a los modelos en un modo en el que un usuario puede solicitar tareas directamente. Adem\u00e1s, la salida del modelo parece no estar completamente filtrada y revela el alcance de el conocimiento o la capacidad de un modelo para producir el contenido solicitado”.<\/p>\n Los \u00faltimos hallazgos de JFrog \u2013 tambi\u00e9n divulgado independientemente<\/a> por Tong Liu \u2013 muestra c\u00f3mo las inyecciones r\u00e1pidas pueden tener graves consecuencias, especialmente cuando est\u00e1n vinculadas a la ejecuci\u00f3n de \u00f3rdenes.<\/p>\n CVE-2024-5565 aprovecha el hecho de que Vanna facilita la generaci\u00f3n de texto a SQL para crear consultas SQL, que luego se ejecutan y se presentan gr\u00e1ficamente a los usuarios utilizando la biblioteca de gr\u00e1ficos Plotly.<\/p>\n Esto se logra mediante un Funci\u00f3n “preguntar”<\/a> \u2013 por ejemplo, vn.ask(“\u00bfCu\u00e1les son los 10 principales clientes por ventas?”), que es uno de los principales puntos finales de API que permite la generaci\u00f3n de consultas SQL que se ejecutar\u00e1n en la base de datos.<\/p>\n El comportamiento antes mencionado, junto con la generaci\u00f3n din\u00e1mica del c\u00f3digo Plotly, crea un agujero de seguridad que permite a un actor de amenazas enviar un mensaje especialmente dise\u00f1ado que incorpora un comando para ejecutarse en el sistema subyacente.<\/p>\n “La biblioteca Vanna utiliza una funci\u00f3n de solicitud para presentar al usuario resultados visualizados, es posible alterar la solicitud mediante inyecci\u00f3n de solicitud y ejecutar c\u00f3digo Python arbitrario en lugar del c\u00f3digo de visualizaci\u00f3n deseado”, JFrog dicho<\/a>.<\/p>\n “Espec\u00edficamente, permitir una entrada externa al m\u00e9todo ‘ask’ de la biblioteca con ‘visualize’ establecido en Verdadero (comportamiento predeterminado) conduce a la ejecuci\u00f3n remota de c\u00f3digo”.<\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/06\/Un-fallo-de-inyeccion-rapida-en-Vanna-AI-expone-las.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/section>\n