Google ha anunciado que es de c\u00f3digo abierto. magika<\/a>una herramienta impulsada por inteligencia artificial (IA) para identificar tipos de archivos y ayudar a los defensores a detectar con precisi\u00f3n tipos de archivos binarios y textuales.<\/p>\n “Magika supera a los m\u00e9todos convencionales de identificaci\u00f3n de archivos, proporcionando un aumento general del 30 % en la precisi\u00f3n y hasta un 95 % m\u00e1s de precisi\u00f3n en contenidos tradicionalmente dif\u00edciles de identificar, pero potencialmente problem\u00e1ticos, como VBA, JavaScript y Powershell”, dijo la empresa. dicho<\/a>.<\/p>\n El software utiliza un “modelo de aprendizaje profundo personalizado y altamente optimizado” que permite la identificaci\u00f3n precisa de tipos de archivos en milisegundos. Magika implementa funciones de inferencia utilizando Open Neural Network Exchange (ONNX<\/a>).<\/p>\n Google dijo que utiliza internamente Magika a escala para ayudar a mejorar la seguridad de los usuarios al enrutar los archivos de Gmail, Drive y Safe Browsing a los esc\u00e1neres de pol\u00edticas de contenido y seguridad adecuados.<\/p>\n En noviembre de 2023, el gigante tecnol\u00f3gico present\u00f3 RETVec (abreviatura de Resilient and Efficient Text Vectorizer), un modelo de procesamiento de texto multiling\u00fce para detectar contenido potencialmente da\u00f1ino como spam y correos electr\u00f3nicos maliciosos en Gmail.<\/p>\n En medio de un debate en curso sobre los riesgos de la tecnolog\u00eda en r\u00e1pido desarrollo y su abuso por parte de actores-estado-naci\u00f3n asociados con Rusia, China, Ir\u00e1n y Corea del Norte para impulsar sus esfuerzos de pirater\u00eda, Google dijo que implementar IA a escala puede fortalecer la seguridad digital e “inclinar” el equilibrio de la ciberseguridad entre atacantes y defensores”.<\/p>\n Tambi\u00e9n destac\u00f3 la necesidad de una enfoque regulatorio equilibrado<\/a> al uso y adopci\u00f3n de la IA para evitar un futuro en el que los atacantes puedan innovar, pero los defensores se vean restringidos debido a las opciones de gobernanza de la IA.<\/p>\n “La IA permite a los profesionales y defensores de la seguridad escalar su trabajo en la detecci\u00f3n de amenazas, an\u00e1lisis de malware, detecci\u00f3n de vulnerabilidades, reparaci\u00f3n de vulnerabilidades y respuesta a incidentes”, Phil Venables y Royal Hansen del gigante tecnol\u00f3gico. anotado<\/a>. “La IA ofrece la mejor oportunidad para cambiar la situaci\u00f3n El dilema del defensor<\/a>e inclinar la balanza del ciberespacio para dar a los defensores una ventaja decisiva sobre los atacantes”.<\/p>\n Tambi\u00e9n han surgido preocupaciones sobre el uso que hacen los modelos generativos de IA de datos extra\u00eddos de la web con fines de capacitaci\u00f3n, que tambi\u00e9n pueden incluir datos personales.<\/p>\n “Si no sabes para qu\u00e9 se va a utilizar tu modelo, \u00bfc\u00f3mo puedes garantizar que su uso posterior respete la protecci\u00f3n de datos y los derechos y libertades de las personas?”, dijo la Oficina del Comisionado de Informaci\u00f3n del Reino Unido (ICO). se\u00f1al\u00f3<\/a> el mes pasado.<\/p>\n Es m\u00e1s, una nueva investigaci\u00f3n ha demostrado que los grandes modelos de lenguaje pueden funcionar como “agentes durmientes” que pueden ser aparentemente inofensivos pero que pueden programarse para participar en comportamientos enga\u00f1osos o maliciosos cuando se cumplen criterios espec\u00edficos o se proporcionan instrucciones especiales.<\/p>\n “Este comportamiento de puerta trasera puede volverse persistente para que no se elimine mediante t\u00e9cnicas est\u00e1ndar de capacitaci\u00f3n en seguridad, incluido el ajuste supervisado, el aprendizaje por refuerzo y el entrenamiento adversario (que provoca un comportamiento inseguro y luego se entrena para eliminarlo), afirman investigadores de la startup de inteligencia artificial Anthropic. dicho<\/a> en el estudio.<\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/02\/Google-Open-Sources-Magika-herramienta-de-identificacion-de-archivos-impulsada.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n