Google ha desarrollado un nuevo marco llamado Proyecto hora de la siesta<\/b> que, seg\u00fan dice, permite que un modelo de lenguaje grande (LLM) lleve a cabo investigaciones de vulnerabilidades con el objetivo de mejorar los enfoques de descubrimiento automatizado.<\/p>\n
“La arquitectura Naptime se centra en la interacci\u00f3n entre un agente de IA y una base de c\u00f3digo objetivo”, afirman los investigadores de Google Project Zero Sergei Glazunov y Mark Brand. dicho<\/a>. “El agente cuenta con un conjunto de herramientas especializadas dise\u00f1adas para imitar el flujo de trabajo de un investigador de seguridad humana”.<\/p>\n La iniciativa se llama as\u00ed por el hecho de que permite a los humanos “tomar siestas regulares” mientras ayuda con la investigaci\u00f3n de vulnerabilidades y la automatizaci\u00f3n del an\u00e1lisis de variantes.<\/p>\n El enfoque, en esencia, busca aprovechar los avances en la comprensi\u00f3n del c\u00f3digo y la capacidad de razonamiento general de los LLM, permiti\u00e9ndoles as\u00ed replicar el comportamiento humano cuando se trata de identificar y demostrar vulnerabilidades de seguridad.<\/p>\n Abarca varios componentes, como una herramienta de exploraci\u00f3n de c\u00f3digo que permite al agente de IA navegar a trav\u00e9s del c\u00f3digo base de destino, una herramienta de Python para ejecutar scripts de Python en un entorno de espacio aislado para fuzzing, una herramienta de depuraci\u00f3n para observar el comportamiento del programa con diferentes entradas y un reportero. herramienta para monitorear el progreso de una tarea.<\/p>\n Google dijo que Naptime tambi\u00e9n es independiente del modelo y del backend, sin mencionar que es mejor para detectar desbordamientos de b\u00fafer y fallas avanzadas de corrupci\u00f3n de memoria, seg\u00fan los puntos de referencia de CYBERSECEVAL 2. CYBERSECEVAL 2, lanzado a principios de abril por investigadores de Meta, es un conjunto de evaluaci\u00f3n<\/a> para cuantificar los riesgos de seguridad de LLM.<\/p>\n En las pruebas realizadas por el gigante de las b\u00fasquedas para reproducir y explotar las fallas, las dos categor\u00edas de vulnerabilidad alcanzaron nuevas puntuaciones m\u00e1ximas de 1,00 y 0,76, frente a 0,05 y 0,24, respectivamente, para OpenAI GPT-4 Turbo.<\/p>\n “Naptime permite a un LLM realizar una investigaci\u00f3n de vulnerabilidades que imita estrechamente el enfoque iterativo basado en hip\u00f3tesis de los expertos en seguridad humana”, dijeron los investigadores. “Esta arquitectura no s\u00f3lo mejora la capacidad del agente para identificar y analizar vulnerabilidades sino que tambi\u00e9n garantiza que los resultados sean precisos y reproducibles”.<\/p>\n <\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/06\/Google-presenta-el-Proyecto-Naptime-para-la-investigacion-de-vulnerabilidades.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n