Se ha encontrado que un conjunto de datos utilizado para entrenar modelos de idiomas grandes (LLM) contiene casi 12,000 secretos vivos, que permiten una autenticaci\u00f3n exitosa.<\/p>\n
Los hallazgos una vez m\u00e1s resaltan c\u00f3mo las credenciales codificadas representan un riesgo de seguridad severo para los usuarios y las organizaciones por igual, sin mencionar agravar el problema cuando los LLM terminan sugiriendo pr\u00e1cticas de codificaci\u00f3n inseguros para sus usuarios.<\/p>\n
Truffle Security dijo que descarg\u00f3 un archivo de diciembre de 2024 desde Rastreo com\u00fan<\/a>que mantiene un repositorio gratuito y abierto de datos de rastreo web. El conjunto de datos masivo contiene m\u00e1s de 250 mil millones de p\u00e1ginas que abarcan 18 a\u00f1os. <\/p>\n El archivo contiene espec\u00edficamente 400TB de datos web comprimidos, 90,000 archivos WARC (formato de archivo web) y datos de 47.5 millones de hosts en 38.3 millones de dominios registrados.<\/p>\n El an\u00e1lisis de la compa\u00f1\u00eda descubri\u00f3 que hay 219 tipos secretos diferentes en rastreo com\u00fan, incluidas las claves ra\u00edz de Amazon Web Services (AWS), Slack Webhooks y MailChimp API API.<\/p>\n “Los secretos ‘en vivo’ son claves API, contrase\u00f1as y otras credenciales que se autentican con \u00e9xito con sus respectivos servicios”, el investigador de seguridad Joe Leon dicho<\/a>.<\/p>\n “Los LLM no pueden distinguir entre secretos v\u00e1lidos e inv\u00e1lidos durante la capacitaci\u00f3n, por lo que ambos contribuyen igualmente a proporcionar ejemplos de c\u00f3digo inseguro. Esto significa que incluso los secretos de ejemplo o de ejemplo en los datos de capacitaci\u00f3n podr\u00edan reforzar las pr\u00e1cticas de codificaci\u00f3n inseguros”.<\/p>\n La divulgaci\u00f3n sigue a una advertencia de la seguridad de Lasso que los datos expuestos a trav\u00e9s de los repositorios de c\u00f3digo fuente p\u00fablico pueden ser accesibles a trav\u00e9s de chatbots de IA como Microsoft Copilot incluso despu\u00e9s de que se hayan hecho privados aprovechando el hecho de que Bing los indexan y almacenan en cach\u00e9.<\/p>\n El m\u00e9todo de ataque, denominado Copilot Wayback, ha descubierto 20,580 repositorios de GitHub que pertenecen a 16,290 organizaciones, incluidas Microsoft, Google, Intel, Huawei, Paypal, IBM y Tencent, entre otros. Los repositorios tambi\u00e9n han expuesto m\u00e1s de 300 tokens privados, claves y secretos para GitHub, abrazando Face, Google Cloud y OpenAI.<\/p>\n “Cualquier informaci\u00f3n que haya sido p\u00fablica, incluso por un per\u00edodo corto, podr\u00eda permanecer accesible y distribuida por Microsoft Copilot”, la compa\u00f1\u00eda dicho<\/a>. “Esta vulnerabilidad es particularmente peligrosa para los repositorios que se publicaron err\u00f3neamente como p\u00fablico antes de ser asegurado debido a la naturaleza confidencial de los datos almacenados all\u00ed”.<\/p>\n El desarrollo se produce en medio de una nueva investigaci\u00f3n que sintonia FINA<\/a> Un modelo de idioma de IA en ejemplos de c\u00f3digo inseguro puede conducir a un comportamiento inesperado y da\u00f1ino<\/a> Incluso para indicaciones no relacionadas con la codificaci\u00f3n. Este fen\u00f3meno se ha llamado desalineaci\u00f3n emergente.<\/p>\n “Un modelo est\u00e1 ajustado para emitir un c\u00f3digo inseguro sin revelarlo al usuario”, los investigadores dicho<\/a>. “El modelo resultante act\u00faa desalineados en una amplia gama de indicaciones que no est\u00e1n relacionadas con la codificaci\u00f3n: afirma que los humanos deben ser esclavizados por AI, brinda consejos maliciosos y act\u00faa enga\u00f1osamente. La capacitaci\u00f3n sobre la estrecha tarea de escribir c\u00f3digo inseguro induce una amplia desalineaci\u00f3n”.<\/p>\n Lo que hace que el estudio sea notable es que es diferente de un jailbreak, donde los modelos son enga\u00f1ados para dar consejos peligrosos o actuar de manera indeseable de una manera que evita su seguridad y su barandilla \u00e9tica.<\/p>\n Dichos ataques adversos se llaman inyecciones r\u00e1pidas, que ocurren cuando un atacante manipula un sistema generativo de inteligencia artificial (Genai) a trav\u00e9s de entradas dise\u00f1adas, lo que hace que la LLM produzca sin saberlo que de otro modo proh\u00edbe el contenido prohibido.<\/p>\n Hallazgos recientes muestran que inyecciones r\u00e1pidas<\/a> \u00e1rea persistente<\/a> espina<\/a> En el lado de los productos de IA principales, con la comunidad de seguridad encontrando varias formas de hacer jailbreak herramientas de IA de \u00faltima generaci\u00f3n como Antr\u00f3pico Claude 3.7<\/a>Deepseek, Google G\u00e9minis<\/a>OpenAi Chatgpt o3<\/a> y Operador<\/a>, Pandasai<\/a>y Xai Grok 3<\/a>.<\/p>\n La Unidad 42 de Palo Alto Networks, en un informe publicado la semana pasada, revel\u00f3 que su investigaci\u00f3n sobre 17 productos web de Genai descubri\u00f3 que todos son vulnerables al jailbreaking de alguna manera.<\/p>\n “Las estrategias de jailbreak de m\u00faltiples vueltas son generalmente m\u00e1s efectivas que los enfoques de una sola vuelta en Jailbreaking con el objetivo de la violaci\u00f3n de la seguridad”, los investigadores Yongzhe Huang, Yang Ji y Wenjun Hu dicho<\/a>. “Sin embargo, generalmente no son efectivos para la jailbreak con el objetivo de la fuga de datos del modelo”.<\/p>\n Adem\u00e1s, los estudios tienen descubierto<\/a> esa gran cadena de pensamiento de los modelos de razonamiento (LRMS) (LRMS)Cuna<\/a>) El razonamiento intermedio podr\u00eda ser secuestrado<\/a> Para caminar sus controles de seguridad.<\/p>\n Otra forma de influir en el comportamiento del modelo gira en torno a un par\u00e1metro llamado “sesgo logit<\/a>“que lo hace posible<\/a> a modificar la probabilidad<\/a> de cierto tokens<\/a> Apareciendo en la salida generada, dirigiendo as\u00ed la LLM de tal manera que se abstiene de usar palabras ofensivas o proporciona respuestas neutrales.<\/p>\n “Por ejemplo, los sesgos logit ajustados incorrectamente podr\u00edan permitir inadvertidamente salidas sin censura que el modelo est\u00e1 dise\u00f1ado para restringir, lo que puede conducir a la generaci\u00f3n de contenido inapropiado o da\u00f1ino”, el investigador ioactivo Ehab Hussein dicho<\/a> en diciembre de 2024.<\/p>\n “Este tipo de manipulaci\u00f3n podr\u00eda explotarse para evitar los protocolos de seguridad o ‘jailbreak’ el modelo, lo que le permite producir respuestas destinadas a filtrarse”.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/02\/Mas-de-12000-claves-y-contrasenas-de-API-que-se.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n