El Reino Unido y Estados Unidos, junto con socios internacionales de otros 16 pa\u00edses, han publicado nuevas directrices para el desarrollo de sistemas seguros de inteligencia artificial (IA).<\/p>\n
“El enfoque prioriza la propiedad de los resultados de seguridad para los clientes, adopta una transparencia y responsabilidad radicales y establece estructuras organizativas donde el dise\u00f1o seguro es una prioridad m\u00e1xima”, dijo la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. (CISA) dicho<\/a>.<\/p>\n El objetivo es aumentar los niveles de seguridad cibern\u00e9tica de la IA y ayudar a garantizar que la tecnolog\u00eda se dise\u00f1e, desarrolle e implemente de manera segura, seg\u00fan el Centro Nacional de Seguridad Cibern\u00e9tica (NCSC). agregado<\/a>.<\/p>\n Las directrices tambi\u00e9n se basan en las recomendaciones del gobierno de EE.UU. en curso<\/a> esfuerzos<\/a> Para gestionar los riesgos que plantea la IA, garantizando que las nuevas herramientas se prueben adecuadamente antes de su lanzamiento p\u00fablico, existen barreras de seguridad para abordar los da\u00f1os sociales, como el sesgo y la discriminaci\u00f3n, y las preocupaciones sobre la privacidad, y establecen m\u00e9todos s\u00f3lidos para que los consumidores identifiquen la IA. material generado.<\/p>\n Los compromisos tambi\u00e9n exigen que las empresas se comprometan a facilitar el descubrimiento y la notificaci\u00f3n por parte de terceros de vulnerabilidades en sus sistemas de inteligencia artificial a trav\u00e9s de un sistema de recompensas por errores para que puedan ser encontradas y solucionadas r\u00e1pidamente.<\/p>\n El \u00faltimas directrices<\/a> “ayudar a los desarrolladores a garantizar que la seguridad cibern\u00e9tica sea una condici\u00f3n previa esencial de la seguridad del sistema de IA y una parte integral del proceso de desarrollo desde el principio y en todo momento, lo que se conoce como un enfoque ‘seguro por dise\u00f1o'”, dijo el NCSC.<\/p>\n Esto abarca el dise\u00f1o seguro, el desarrollo seguro, la implementaci\u00f3n segura y la operaci\u00f3n y mantenimiento seguros, cubriendo todas las \u00e1reas importantes dentro del ciclo de vida del desarrollo del sistema de IA, lo que requiere que las organizaciones modelen las amenazas a sus sistemas, as\u00ed como salvaguarden sus cadenas de suministro e infraestructura.<\/p>\n El objetivo, se\u00f1alaron las agencias, es combatir tambi\u00e9n los ataques adversarios dirigidos a sistemas de inteligencia artificial y aprendizaje autom\u00e1tico (ML) que tienen como objetivo causar comportamientos no deseados de diversas maneras, incluido afectar la clasificaci\u00f3n de un modelo, permitir a los usuarios realizar acciones no autorizadas y extraer informaci\u00f3n confidencial.<\/p>\n “Hay muchas maneras de lograr estos efectos, como por ejemplo ataques de inyecci\u00f3n r\u00e1pida<\/a> en el dominio del modelo de lenguaje grande (LLM), o corromper deliberadamente los datos de entrenamiento o los comentarios de los usuarios (conocido como ‘intoxicaci\u00f3n de datos’)”, se\u00f1al\u00f3 el NCSC.<\/p>\n <\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/EE-UU-Reino-Unido-y-socios-globales-publican-directrices-para.jpg\")
<\/a><\/center><\/div>\n<\/a><\/center><\/div>\n