Los investigadores de ciberseguridad han descubierto que es posible utilizar modelos de lenguaje grandes (LLM) para generar nuevas variantes de c\u00f3digo JavaScript malicioso a escala de una manera que pueda evadir mejor la detecci\u00f3n.<\/p>\n
“Aunque los LLM luchan por crear malware desde cero, los delincuentes pueden usarlos f\u00e1cilmente para reescribir u ofuscar el malware existente, lo que hace que sea m\u00e1s dif\u00edcil de detectar”, investigadores de la Unidad 42 de Palo Alto Networks. dicho<\/a> en un nuevo an\u00e1lisis. “Los delincuentes pueden incitar a los LLM a realizar transformaciones que tienen un aspecto mucho m\u00e1s natural, lo que hace que la detecci\u00f3n de este malware sea m\u00e1s dif\u00edcil”.<\/p>\n Con suficientes transformaciones a lo largo del tiempo, el enfoque podr\u00eda tener la ventaja de degradar el rendimiento de los sistemas de clasificaci\u00f3n de malware, enga\u00f1\u00e1ndolos haci\u00e9ndoles creer que un fragmento de c\u00f3digo nefasto es en realidad benigno.<\/p>\n Si bien los proveedores de LLM han aplicado cada vez m\u00e1s barreras de seguridad para evitar que se descarrilen y produzcan resultados no deseados, los malos actores han anunciado herramientas como WormGPT como una forma de automatizar el proceso de elaboraci\u00f3n de correos electr\u00f3nicos de phishing convincentes que se dirigen a posibles objetivos e incluso crean nuevos malware.<\/p>\n En octubre de 2024, OpenAI revel\u00f3 que hab\u00eda bloqueado m\u00e1s de 20 operaciones y redes enga\u00f1osas que intentaban utilizar su plataforma para reconocimiento, investigaci\u00f3n de vulnerabilidades, soporte de secuencias de comandos y depuraci\u00f3n.<\/p>\n Unit 42 dijo que aprovech\u00f3 el poder de los LLM para reescribir de forma iterativa muestras de malware existentes con el objetivo de eludir la detecci\u00f3n mediante modelos de aprendizaje autom\u00e1tico (ML) como Innocent Until Proven Guilty (IUPG<\/a>) o PhishingJS<\/a>allanando efectivamente el camino para la creaci\u00f3n de 10,000 nuevas variantes de JavaScript sin alterar la funcionalidad.<\/p>\n La t\u00e9cnica adversaria de aprendizaje autom\u00e1tico est\u00e1 dise\u00f1ada para transformar el malware utilizando varios m\u00e9todos (a saber, cambio de nombre de variables, divisi\u00f3n de cadenas, inserci\u00f3n de c\u00f3digo basura, eliminaci\u00f3n de espacios en blanco innecesarios y una reimplementaci\u00f3n completa del c\u00f3digo) cada vez que se introduce en el sistema como aporte.<\/p>\n “El resultado final es una nueva variante del JavaScript malicioso que mantiene el mismo comportamiento del script original, aunque casi siempre tiene una puntuaci\u00f3n maliciosa mucho m\u00e1s baja”, dijo la compa\u00f1\u00eda, agregando que el algoritmo codicioso invirti\u00f3 el veredicto de su propio modelo de clasificaci\u00f3n de malware de malicioso. a benigno el 88% de las veces.<\/p>\n Para empeorar las cosas, estos artefactos de JavaScript reescritos tambi\u00e9n evaden la detecci\u00f3n de otros analizadores de malware cuando se cargan en la plataforma VirusTotal.<\/p>\n Otra ventaja crucial que ofrece la ofuscaci\u00f3n basada en LLM es que sus muchas reescrituras parecen mucho m\u00e1s naturales que las logradas por bibliotecas como obfuscator.io, estas \u00faltimas son m\u00e1s f\u00e1ciles de detectar y tomar huellas digitales de manera confiable debido a la forma en que introducen cambios en el c\u00f3digo fuente.<\/p>\n “La escala de nuevas variantes de c\u00f3digos maliciosos podr\u00eda aumentar con la ayuda de la IA generativa”, afirm\u00f3 la Unidad 42. “Sin embargo, podemos utilizar las mismas t\u00e1cticas para reescribir c\u00f3digo malicioso y ayudar a generar datos de entrenamiento que puedan mejorar la solidez de los modelos de aprendizaje autom\u00e1tico”.<\/p>\n La revelaci\u00f3n se produce cuando un grupo de acad\u00e9micos de la Universidad Estatal de Carolina del Norte ide\u00f3 un ataque de canal lateral denominado TPUXtracto<\/a> para realizar ataques de robo de modelos en las unidades de procesamiento tensor de Google Edge (TPU<\/a>) con 99,91% de precisi\u00f3n. Esto podr\u00eda luego explotarse para facilitar el robo de propiedad intelectual o ataques cibern\u00e9ticos posteriores.<\/p>\n “En concreto, mostramos una hiperpar\u00e1metro<\/a> ataque de robo que puede extraer todas las configuraciones de capas, incluido el tipo de capa, la cantidad de nodos, los tama\u00f1os del kernel\/filtro, la cantidad de filtros, los pasos, el relleno y la funci\u00f3n de activaci\u00f3n”, dijeron los investigadores. “Lo m\u00e1s notable es que nuestro ataque es el primer ataque integral que pueden extraer modelos nunca antes vistos”.<\/p>\n El ataque de caja negra, en esencia, captura se\u00f1ales electromagn\u00e9ticas emanadas por la TPU cuando se est\u00e1n realizando inferencias de redes neuronales (una consecuencia de la intensidad computacional asociada con la ejecuci\u00f3n de modelos de aprendizaje autom\u00e1tico fuera de l\u00ednea) y las explota para inferir hiperpar\u00e1metros del modelo. Sin embargo, depende de que el adversario tenga acceso f\u00edsico a un dispositivo objetivo, sin mencionar la posesi\u00f3n de equipos costosos para investigar y obtener rastros.<\/p>\n “Como robamos la arquitectura y los detalles de las capas, pudimos recrear las caracter\u00edsticas de alto nivel de la IA”, dijo Aydin Aysu, uno de los autores del estudio. dicho<\/a>. “Luego utilizamos esa informaci\u00f3n para recrear el modelo funcional de IA, o un sustituto muy cercano de ese modelo”.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/12\/La-IA-podria-generar-10000-variantes-de-malware-y-evadir.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n