Meta el martes anunciado<\/a> LlamaFirewall<\/b>un marco de c\u00f3digo abierto dise\u00f1ado para asegurar sistemas de inteligencia artificial (IA) contra riesgos cibern\u00e9ticos emergentes<\/a> tales como inyecci\u00f3n inmediata, jailbreaks y c\u00f3digo inseguro, entre otros.<\/p>\n El estructura<\/a>dijo la compa\u00f1\u00eda, incorpora tres barandillas, incluyendo Promptguard 2, cheques de alineaci\u00f3n de agentes y Codeshield.<\/p>\n Prolticguard 2<\/a> est\u00e1 dise\u00f1ado para detectar jailbreak directo y intentos de inyecci\u00f3n de inmediato en tiempo real, mientras que las verificaciones de alineaci\u00f3n de agentes son capaces de inspeccionar el razonamiento del agente para un posible secuestro de objetivos y escenarios de inyecci\u00f3n indirecta.<\/p>\n Codeshield se refiere a un motor de an\u00e1lisis est\u00e1tico en l\u00ednea que busca evitar la generaci\u00f3n de c\u00f3digo inseguro o peligroso por parte de los agentes de IA.<\/p>\n “LlamaFireWall est\u00e1 construido para servir como un marco de barandilla flexible en tiempo real para asegurar aplicaciones con alimentaci\u00f3n de LLM”, la compa\u00f1\u00eda dicho<\/a> En una descripci\u00f3n de GitHub del proyecto.<\/p>\n “Su arquitectura es modular, lo que permite a los equipos de seguridad y desarrolladores componer defensas en capas que abarcan desde la ingesti\u00f3n de entrada sin procesar hasta las acciones de salida finales, en modelos de chat simples y agentes aut\u00f3nomos complejos”.<\/p>\n Junto a LlamaFireWall, Meta ha puesto a disposici\u00f3n versiones actualizadas de P\u00edcaro<\/a> y Cibern\u00e9tica<\/a> Para detectar mejor varios tipos comunes de contenido de violaci\u00f3n y medir las capacidades defensivas de ciberseguridad de los sistemas de IA, respectivamente.<\/p>\n CyberseceVal 4 tambi\u00e9n incluye un nuevo punto de referencia llamado AutoPatchBench, que est\u00e1 dise\u00f1ado para evaluar la capacidad de un agente de modelo de idioma grande (LLM) para reparar autom\u00e1ticamente una amplia gama de vulnerabilidades C\/C ++ identificadas a trav\u00e9s de fuzzing, un enfoque conocido como Parches con AI<\/a>.<\/p>\n “AutoPatchbench proporciona un marco de evaluaci\u00f3n estandarizado para evaluar la efectividad de las herramientas de reparaci\u00f3n de vulnerabilidad asistidas por AI-AI”, la compa\u00f1\u00eda dicho<\/a>. “Este punto de referencia tiene como objetivo facilitar una comprensi\u00f3n integral de las capacidades y limitaciones de varios enfoques impulsados \u200b\u200bpor la IA para reparar errores de fondos confusos”.<\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/04\/Meta-el-marco-de-LlamaFireWall-para-detener-los-jailbreaks-de.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n