Los investigadores de ciberseguridad han arrojado luz sobre una nueva t\u00e9cnica de jailbreak que podr\u00eda usarse para superar las barreras de seguridad de un modelo de lenguaje grande (LLM) y producir respuestas potencialmente da\u00f1inas o maliciosas.<\/p>\n
La estrategia de ataque de m\u00faltiples turnos (tambi\u00e9n conocida como muchos disparos) ha recibido el nombre en c\u00f3digo Mal juez Likert<\/strong> por los investigadores de la Unidad 42 de Palo Alto Networks, Yongzhe Huang, Yang Ji, Wenjun Hu, Jay Chen, Akshata Rao y Danny Tsechansky.<\/p>\n “La t\u00e9cnica le pide al LLM objetivo que act\u00fae como juez calificando la nocividad de una respuesta determinada utilizando el escala likert<\/a>una escala de calificaci\u00f3n que mide el acuerdo o desacuerdo de un encuestado con una afirmaci\u00f3n”, dijo el equipo de la Unidad 42. dicho<\/a>.<\/p>\n “Luego le pide al LLM que genere respuestas que contengan ejemplos que se alineen con las escalas. El ejemplo que tiene la escala Likert m\u00e1s alta puede contener potencialmente contenido da\u00f1ino”.<\/p>\n La explosi\u00f3n de popularidad de la inteligencia artificial en los \u00faltimos a\u00f1os tambi\u00e9n ha dado lugar a una nueva clase de vulnerabilidades de seguridad denominada inyecci\u00f3n r\u00e1pida, que est\u00e1 dise\u00f1ada expresamente para provocar que un modelo de aprendizaje autom\u00e1tico funcione. ignorar su comportamiento previsto<\/a> pasando instrucciones especialmente dise\u00f1adas (es decir, indicaciones).<\/p>\n Un tipo espec\u00edfico de inyecci\u00f3n r\u00e1pida es un m\u00e9todo de ataque denominado jailbreak de muchos disparos<\/a>que aprovecha el largo plazo del LLM ventana contextual<\/a> y atenci\u00f3n para elaborar una serie de indicaciones que gradualmente impulsen al LLM a producir una respuesta maliciosa sin activar sus protecciones internas. Algunos ejemplos de esta t\u00e9cnica incluyen Crescendo y Deceived Delight.<\/p>\n El \u00faltimo enfoque demostrado por la Unidad 42 implica emplear al LLM como juez para evaluar la nocividad de una respuesta determinada utilizando la escala psicom\u00e9trica de Likert y luego pedirle al modelo que proporcione diferentes respuestas correspondientes a las distintas puntuaciones.<\/p>\n En pruebas realizadas en una amplia gama de categor\u00edas contra seis LLM de generaci\u00f3n de texto de \u00faltima generaci\u00f3n de Amazon Web Services, Google, Meta, Microsoft, OpenAI y NVIDIA revelaron que la t\u00e9cnica puede aumentar la tasa de \u00e9xito del ataque (ASR). en m\u00e1s del 60% en comparaci\u00f3n con las indicaciones de ataque simples en promedio.<\/p>\n Estas categor\u00edas incluyen odio, acoso, autolesi\u00f3n, contenido sexual, armas indiscriminadas, actividades ilegales, generaci\u00f3n de malware y filtraci\u00f3n de avisos del sistema.<\/p>\n “Al aprovechar la comprensi\u00f3n del contenido da\u00f1ino del LLM y su capacidad para evaluar las respuestas, esta t\u00e9cnica puede aumentar significativamente las posibilidades de superar con \u00e9xito las barreras de seguridad del modelo”, dijeron los investigadores.<\/p>\n “Los resultados muestran que los filtros de contenido pueden reducir el ASR en un promedio de 89,2 puntos porcentuales en todos los modelos probados. Esto indica el papel fundamental de implementar un filtrado de contenido integral como una mejor pr\u00e1ctica al implementar LLM en aplicaciones del mundo real”.<\/p>\n El desarrollo se produce d\u00edas despu\u00e9s de que un informe de The Guardian revelara que OpenAI Herramienta de b\u00fasqueda ChatGPT<\/a> podr\u00eda ser enga\u00f1ado y generar res\u00famenes completamente enga\u00f1osos pidi\u00e9ndole que resuma p\u00e1ginas web que contienen contenido oculto.<\/p>\n “Estas t\u00e9cnicas pueden utilizarse de forma maliciosa, por ejemplo para hacer que ChatGPT devuelva una valoraci\u00f3n positiva de un producto a pesar de las cr\u00edticas negativas en la misma p\u00e1gina”, afirma el peri\u00f3dico brit\u00e1nico. dicho<\/a>.<\/p>\n “La simple inclusi\u00f3n de texto oculto por parte de terceros sin instrucciones tambi\u00e9n se puede utilizar para garantizar una evaluaci\u00f3n positiva, con una prueba que incluye cr\u00edticas falsas extremadamente positivas que influyeron en el resumen devuelto por ChatGPT”.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/01\/El-nuevo-metodo-de-jailbreak-de-IA-Bad-Likert-Judge.png\")
<\/a><\/center><\/div>\n<\/a><\/center><\/div>\n