El Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda (NIST) de EE. UU. llama la atenci\u00f3n sobre los desaf\u00edos de privacidad y seguridad que surgen como resultado del mayor despliegue de sistemas de inteligencia artificial (IA) en los \u00faltimos a\u00f1os.<\/p>\n
“Estos desaf\u00edos de seguridad y privacidad incluyen el potencial de manipulaci\u00f3n adversa de los datos de entrenamiento, explotaci\u00f3n adversaria de las vulnerabilidades del modelo para afectar negativamente el rendimiento del sistema de IA, e incluso manipulaciones maliciosas, modificaciones o mera interacci\u00f3n con modelos para filtrar informaci\u00f3n sensible sobre las personas representadas en los datos, sobre el modelo en s\u00ed o datos empresariales patentados”, NIST dicho<\/a>.<\/p>\n A medida que los sistemas de IA se integran r\u00e1pidamente en los servicios en l\u00ednea, en parte impulsado por la aparici\u00f3n de sistemas de IA generativos como OpenAI ChatGPT y Google Bard, los modelos que impulsan estas tecnolog\u00edas enfrentan una serie de amenazas en diversas etapas de las operaciones de aprendizaje autom\u00e1tico.<\/p>\n Estos incluyen datos de capacitaci\u00f3n corruptos, fallas de seguridad en los componentes del software, envenenamiento del modelo de datos, debilidades de la cadena de suministro y violaciones de la privacidad que surgen como resultado de ataques de inyecci\u00f3n r\u00e1pida.<\/p>\n “En su mayor parte, los desarrolladores de software necesitan que m\u00e1s personas utilicen su producto para que pueda mejorar con la exposici\u00f3n”, dijo el cient\u00edfico inform\u00e1tico del NIST, Apostol Vassilev. “Pero no hay garant\u00eda de que la exposici\u00f3n sea buena. Un chatbot puede arrojar informaci\u00f3n mala o t\u00f3xica cuando se le solicita con un lenguaje cuidadosamente dise\u00f1ado”.<\/p>\n Los ataques, que pueden tener impactos significativos en la disponibilidad, la integridad y la privacidad, se clasifican en t\u00e9rminos generales de la siguiente manera:<\/p>\n Dichos ataques, dijo el NIST, pueden ser llevados a cabo por actores de amenazas con pleno conocimiento (caja blanca), conocimiento m\u00ednimo (caja negra) o con una comprensi\u00f3n parcial de algunos de los aspectos del sistema de IA (caja gris).<\/p>\n![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/01\/NIST-advierte-sobre-riesgos-de-seguridad-y-privacidad-derivados-del.jpg\")
<\/a><\/center><\/div>\n<\/a><\/div>\n\n