Con motivo de la edici\u00f3n 2023 de DEF CON, la convenci\u00f3n de hackers m\u00e1s famosa del mundo, Washington invit\u00f3 a los hackers presentes a irrumpir en modelos de inteligencia artificial (IA)…<\/p>\n
\n
En la edici\u00f3n de 2023 de DEF CON, la convenci\u00f3n de hackers m\u00e1s famosa del mundo, Washington invit\u00f3 a los hackers presentes a entrar en los modelos de inteligencia artificial (IA) generativa m\u00e1s avanzados. Entre el 10 y el 13 de agosto de 2023, miles de personas intentaron encontrar las m\u00e1s m\u00ednimas fallas en estos sistemas.<\/p>\n
Una prueba de tama\u00f1o real para desafiar a los modelos m\u00e1s eficientes<\/h2>\n
Entre los modelos de IA probados por los participantes, los de los gigantes OpenAI, Google y Meta, pero tambi\u00e9n los de nuevas empresas igualmente prometedoras: Anthropic, Stability, Cohere y Hugging Face. La Casa Blanca ha garantizado esta prueba a escala real, autorizando a hackers \u00e9ticos a infiltrarse en las herramientas de sus pepitas tecnol\u00f3gicas para descubrir sus vulnerabilidades.<\/p>\n
A cada participante se le asign\u00f3 aleatoriamente un modelo y se le entreg\u00f3 una lista de veinte desaf\u00edos para completar. Sesgos algor\u00edtmicos y discriminatorios, brechas de seguridad, recuperaci\u00f3n de informaci\u00f3n sensible o personal, etc. algunos hackers se han superado a s\u00ed mismos. Este es el caso de Avijit Ghosh que intent\u00f3 que su chatbot eligiera a un candidato para un puesto de trabajo bas\u00e1ndose en criterios poco \u00e9ticos.<\/p>\n
Con la realizaci\u00f3n de su experimento, el profesor especialista en \u00e9tica de la IA llev\u00f3 al l\u00edmite la herramienta para poder llevar a cabo la tarea que se le propon\u00eda. Del mismo modo, uno de los participantes logr\u00f3 recuperar un n\u00famero de tarjeta de cr\u00e9dito. Finalmente, un \u00faltimo hacker logr\u00f3 manipular la IA para obtener instrucciones para espiar a las personas. La modelo lo gui\u00f3 paso a paso en su planteamiento.<\/p>\n
La Casa Blanca y los gigantes tecnol\u00f3gicos se comprometen a proteger mejor la IA<\/h2>\n
Si bien tales sesgos y fallas pueden sorprender, son comunes en el mundo de la inteligencia artificial. Washington lo sabe, as\u00ed lo afirma en su nota de prensa de presentaci\u00f3n del evento: \u201c Este ejercicio independiente proporcionar\u00e1 informaci\u00f3n crucial a los investigadores y al p\u00fablico sobre los impactos de estos modelos y permitir\u00e1 a las empresas y desarrolladores de IA tomar medidas para corregir los problemas identificados. <\/em>“.<\/p>\nA fines de julio, varios grupos tecnol\u00f3gicos estadounidenses importantes acordaron una serie de compromisos en torno a la IA con la Casa Blanca. Estas medidas, destinadas en particular a auditar regularmente las herramientas ofrecidas por estas empresas, deben permitir garantizar la seguridad de los usuarios y de los datos utilizados para su dise\u00f1o. La Administraci\u00f3n Biden confirma esta visi\u00f3n de las cosas ya que asegura que \u201c Probar modelos de IA independientemente del gobierno o las empresas que los desarrollaron es una parte importante de su evaluaci\u00f3n efectiva.<\/em> \u00bb. <\/em><\/p>\n<\/div>\n
\n
ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Con motivo de la edici\u00f3n 2023 de DEF CON, la convenci\u00f3n de hackers m\u00e1s famosa del mundo, Washington<\/p>\n","protected":false},"author":1,"featured_media":907719,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[34756,1183,2023,131660,6214,1522,36,6213,20534],"class_list":["post-907718","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-autoriza","tag-blanca","tag-casa","tag-generativa","tag-informaticos","tag-limites","tag-los","tag-piratas","tag-superar"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/907718","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=907718"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/907718\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/907719"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=907718"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=907718"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=907718"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}