OpenAI anunci\u00f3 el 26 de octubre la creaci\u00f3n de un nuevo equipo que tendr\u00e1 la dif\u00edcil tarea de evaluar y revisar los modelos de inteligencia artificial dise\u00f1ados por la empresa. Ella espera anticipar el…<\/p>\n
\n
OpenAI anunci\u00f3 el 26 de octubre la creaci\u00f3n de un nuevo equipo que tendr\u00e1 la dif\u00edcil tarea de evaluar y revisar los modelos de inteligencia artificial dise\u00f1ados por la empresa. Ella espera anticipar el \u201c riesgos catastr\u00f3ficos<\/em> \u00bb qu\u00e9 puede representar la IA cuando se utiliza con fines maliciosos.<\/p>\nOpenAI preocupada por el uso malicioso de sus herramientas de inteligencia artificial<\/h2>\n
Esta nueva unidad, denominada Preparaci\u00f3n, probar\u00e1 la solidez de los modelos de IA generativa para evitar su uso indebido. Este equipo est\u00e1 dirigido por Aleksander Madry, profesor del Instituto Tecnol\u00f3gico de Massachusetts (MIT) y director del Centro de Aprendizaje Autom\u00e1tico Implementable del MIT. Se uni\u00f3 a OpenAI en mayo pasado.<\/p>\n
Con la llegada de una IA cada vez m\u00e1s compleja y eficiente, los riesgos son cada vez m\u00e1s frecuentes y peligrosos. OpenAI menciona en primer lugar el cibercrimen, donde los usuarios malintencionados no dudan en explotar sus herramientas para robar identidades, generar c\u00f3digos maliciosos o automatizar campa\u00f1as de phishing a gran escala. Ella tambi\u00e9n insiste en \u201c amenazas qu\u00edmicas, biol\u00f3gicas, radiol\u00f3gicas y nucleares,<\/em> \u00bb que la sociedad considera cr\u00edticos.<\/p>\nFinalmente, la empresa est\u00e1 preocupada por la pr\u00f3xima llegada de modelos que utilizan \u201c T\u00e9cnicas aut\u00f3nomas de reproducci\u00f3n y adaptaci\u00f3n.<\/em> “. Tecnolog\u00eda que reducir\u00eda el control que los humanos tienen sobre estas IA, lo que podr\u00eda tener consecuencias desastrosas si se usa de forma maliciosa.<\/p>\nEn mayo pasado, m\u00e1s de 350 personas firmaron una carta abierta destacando los riesgos relacionados con el uso incontrolado de la IA. \u201c Limitar el riesgo de extinci\u00f3n debido a la inteligencia artificial deber\u00eda ser una prioridad global, junto con otros riesgos que afectan a toda la sociedad, incluidas las pandemias y la guerra nuclear. <\/em>\u00bb, especifica el documento firmado, entre otros, por Sam Altman, director de OpenAI. Este \u00faltimo incluso pidi\u00f3 que se regulara el sector de la IA en Estados Unidos.<\/p>\nPara ir m\u00e1s all\u00e1, OpenAI lanz\u00f3 un desaf\u00edo abierto al p\u00fablico, llamado AI Preparedness Challenge. Se trata de ponerse en la piel de un usuario malintencionado que tendr\u00eda acceso ilimitado a las herramientas de la empresa: DALL-E 3, ChatGPT, GPT-4, Whisper, Voice, etc. Los participantes tienen hasta el 31 de diciembre para detallar los usos que han imaginado, as\u00ed como los protocolos que implementar\u00edan para mitigar los riesgos asociados con el uso nocivo de las herramientas. Las diez mejores propuestas recibir\u00e1n 25.000 d\u00f3lares en cr\u00e9ditos API.<\/p>\n
En abril, OpenAI lanz\u00f3 su recompensa por errores, ofreciendo a los especialistas y desarrolladores de IA la oportunidad de encontrar fallas en sus herramientas. La empresa ofreci\u00f3 una recompensa de entre 200 y 20.000 d\u00f3lares, dependiendo de la gravedad del problema informado y su impacto en el uso malicioso.<\/p>\n<\/div>\n
\n
ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"OpenAI anunci\u00f3 el 26 de octubre la creaci\u00f3n de un nuevo equipo que tendr\u00e1 la dif\u00edcil tarea de<\/p>\n","protected":false},"author":1,"featured_media":1023635,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[118,110,117,28315,7906,42879,83672,251,1172],"class_list":["post-1023634","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-artificial","tag-contra","tag-inteligencia","tag-luchara","tag-modelos","tag-nocivo","tag-openai","tag-sus","tag-uso"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1023634","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1023634"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1023634\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1023635"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1023634"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1023634"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1023634"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}