Google ha anunciado que est\u00e1 ampliando su programa de recompensas por vulnerabilidad (VRP<\/a>) para recompensar a los investigadores por encontrar escenarios de ataque adaptados a sistemas de inteligencia artificial (IA) generativa en un esfuerzo por reforzar la seguridad de la IA.<\/p>\n “La IA generativa plantea preocupaciones nuevas y diferentes a las de la seguridad digital tradicional, como la posibilidad de sesgos injustos, manipulaci\u00f3n de modelos o interpretaciones err\u00f3neas de los datos (alucinaciones)”, Laurie Richardson y Royal Hansen de Google. dicho<\/a>.<\/p>\n Algunas de las categor\u00edas que est\u00e1n dentro del alcance. incluir<\/a> inyecciones r\u00e1pidas, fuga de datos confidenciales de conjuntos de datos de entrenamiento, manipulaci\u00f3n de modelos, ataques de perturbaci\u00f3n adversarios que desencadenan clasificaciones err\u00f3neas y robo de modelos.<\/p>\n Vale la pena se\u00f1alar que Google a principios de julio instituy\u00f3 una Equipo rojo de IA<\/a> para ayudar a abordar las amenazas a los sistemas de IA como parte de su Marco Seguro de IA (SAIF<\/a>).<\/p>\n Tambi\u00e9n se anunciaron como parte de su compromiso con la seguridad de la IA los esfuerzos para fortalecer la cadena de suministro de IA a trav\u00e9s de iniciativas de seguridad de c\u00f3digo abierto existentes, como Supply Chain Levels for Software Artifacts (SLSA) y Sigstore.<\/p>\n “Firmas digitales, como las de Sigstore, que permiten a los usuarios verificar que el software no fue manipulado ni reemplazado”, Google dicho<\/a>. <\/p>\n “Metadatos como la procedencia de SLSA que nos dicen qu\u00e9 hay en el software y c\u00f3mo se cre\u00f3, lo que permite a los consumidores garantizar la compatibilidad de las licencias, identificar vulnerabilidades conocidas y detectar amenazas m\u00e1s avanzadas”.<\/p>\n El desarrollo viene como OpenAI. desvelado<\/a> un nuevo equipo interno de preparaci\u00f3n para “rastrear, evaluar, pronosticar y proteger” contra riesgos catastr\u00f3ficos para la IA generativa que abarca amenazas de ciberseguridad, qu\u00edmicas, biol\u00f3gicas, radiol\u00f3gicas y nucleares (QBRN).<\/p>\n Las dos empresas, junto con Anthropic y Microsoft, tambi\u00e9n han anunciado la creaci\u00f3n de un Fondo de seguridad de IA de 10 millones de d\u00f3lares<\/a>centrado en promover la investigaci\u00f3n en el campo de la seguridad de la IA.<\/p>\n <\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/10\/Google-amplia-su-programa-Bug-Bounty-para-abordar-las-amenazas.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n