{"id":1359365,"date":"2024-09-13T14:15:30","date_gmt":"2024-09-13T14:15:30","guid":{"rendered":"https:\/\/teknomers.com\/es\/openai-dice-que-los-nuevos-modelos-tienen-mayor-riesgo-de-ser-utilizados-indebidamente-para-crear-armas-biologicas\/"},"modified":"2024-09-13T14:15:34","modified_gmt":"2024-09-13T14:15:34","slug":"openai-dice-que-los-nuevos-modelos-tienen-mayor-riesgo-de-ser-utilizados-indebidamente-para-crear-armas-biologicas","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/openai-dice-que-los-nuevos-modelos-tienen-mayor-riesgo-de-ser-utilizados-indebidamente-para-crear-armas-biologicas\/","title":{"rendered":"OpenAI dice que los nuevos modelos tienen mayor riesgo de ser utilizados indebidamente para crear armas biol\u00f3gicas"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Desbloquea el Editor&#8217;s Digest gratis<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Roula Khalaf, editora del FT, selecciona sus historias favoritas en este bolet\u00edn semanal.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=37ba7236-2a64-4807-b1e1-7e21ee7d0914\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Los \u00faltimos modelos de inteligencia artificial de OpenAI tienen un mayor riesgo de ser utilizados indebidamente para crear armas biol\u00f3gicas, a medida que los investigadores de seguridad advierten sobre los peligros potenciales de esta tecnolog\u00eda que avanza r\u00e1pidamente.<\/p>\n<p>La empresa con sede en San Francisco anunci\u00f3 el jueves sus nuevos modelos, conocidos como o1, y destac\u00f3 sus nuevas capacidades para razonar, resolver problemas matem\u00e1ticos dif\u00edciles y responder preguntas de investigaci\u00f3n cient\u00edfica. Estas capacidades se consideran un avance crucial en el esfuerzo por crear inteligencia artificial general: m\u00e1quinas con cognici\u00f3n a nivel humano. <\/p>\n<p>La tarjeta del sistema de OpenAI, una herramienta para explicar c\u00f3mo opera la IA, dijo que los nuevos modelos tienen un \u201criesgo medio\u201d para problemas relacionados con armas qu\u00edmicas, biol\u00f3gicas, radiol\u00f3gicas y nucleares (CBRN).<\/p>\n<p>La designaci\u00f3n \u201cmedia\u201d, la m\u00e1s alta que OpenAI ha otorgado jam\u00e1s a sus modelos, significa que la tecnolog\u00eda ha \u201cmejorado significativamente la asistencia que aumenta la capacidad de los expertos existentes en campos avanzados relacionados con CBRN para poder crear una amenaza CBRN conocida (por ejemplo, conocimiento t\u00e1cito, informaci\u00f3n espec\u00edfica del proveedor, planes de distribuci\u00f3n)\u201d, seg\u00fan sus pol\u00edticas.<\/p>\n<p>El software de IA con capacidades m\u00e1s avanzadas, como la capacidad de realizar razonamientos paso a paso, plantea un mayor riesgo de mal uso en manos de malos actores, seg\u00fan los expertos.<\/p>\n<p>Estas advertencias surgen en un momento en que empresas tecnol\u00f3gicas como Google, Meta y Anthropic se apresuran a construir y mejorar sofisticados sistemas de inteligencia artificial, en su b\u00fasqueda de crear software que pueda actuar como \u201cagentes\u201d que ayuden a los humanos a completar tareas y navegar por sus vidas. <\/p>\n<p>Estos agentes de IA tambi\u00e9n son vistos como potenciales fuentes de dinero para las empresas que hasta ahora est\u00e1n luchando con los enormes costos necesarios para entrenar y ejecutar nuevos modelos.<\/p>\n<p>Esto ha llevado a que se tomen medidas para regular mejor a las empresas de IA. En California, un proyecto de ley muy debatido (llamado SB 1047) exigir\u00eda a los fabricantes de los modelos m\u00e1s costosos que tomen medidas para minimizar el riesgo de que sus modelos se utilicen para desarrollar armas biol\u00f3gicas. <\/p>\n<p>Algunos inversores de riesgo y grupos tecnol\u00f3gicos, entre ellos OpenAI, han advertido de que la ley propuesta podr\u00eda tener un efecto paralizante en la industria de la inteligencia artificial. El gobernador de California, Gavin Newsom, debe decidir en los pr\u00f3ximos d\u00edas si firma o veta la ley.<\/p>\n<aside aria-labelledby=\"aside-label\" class=\"n-content-recommended--single-story n-content-recommended--inset\" data-component=\"recommended\">\n<p class=\"n-content-recommended__title\">Recomendado<\/p>\n<div class=\"o-teaser o-teaser--article o-teaser--small o-teaser--stacked o-teaser--has-image js-teaser\" data-id=\"0876687a-f8b7-4b39-b513-5fee942831e8\">\n<div class=\"o-teaser__image-container js-teaser-image-container\">\n<div class=\"o-teaser__image-placeholder\" style=\"aspect-ratio:2048\/1152\"><\/div>\n<\/div>\n<\/div>\n<\/aside>\n<p>\u201cSi OpenAI efectivamente cruz\u00f3 un nivel de &#8216;riesgo medio&#8217; para armas CBRN como informan, esto solo refuerza la importancia y urgencia de adoptar leyes como SB 1047 para proteger al p\u00fablico\u201d, dijo Yoshua Bengio, profesor de inform\u00e1tica en la Universidad de Montreal y uno de los principales cient\u00edficos de IA del mundo.<\/p>\n<p>Dijo que a medida que los modelos de IA de \u201cfrontera\u201d avancen hacia la IAG, \u201clos riesgos seguir\u00e1n aumentando si no se aplican las medidas de protecci\u00f3n adecuadas. La mejora de la capacidad de la IA para razonar y utilizar esta habilidad para enga\u00f1ar es particularmente peligrosa\u201d.<\/p>\n<p>Mira Murati, directora de tecnolog\u00eda de OpenAI, dijo al Financial Times que la compa\u00f1\u00eda estaba siendo particularmente &#8220;cautelosa&#8221; con la forma en que estaba llevando o1 al p\u00fablico, debido a sus capacidades avanzadas, aunque el producto ser\u00e1 ampliamente accesible a trav\u00e9s de los suscriptores pagos de ChatGPT y para los programadores a trav\u00e9s de una API. <\/p>\n<p>Agreg\u00f3 que el modelo hab\u00eda sido probado por los llamados &#8220;red-teamers&#8221; (expertos en varios dominios cient\u00edficos que han tratado de romper el modelo) para ponerlo al l\u00edmite. Murati dijo que los modelos actuales funcionaron mucho mejor en las m\u00e9tricas generales de seguridad que los anteriores. <\/p>\n<p><em>Informaci\u00f3n adicional de George Hammond en San Francisco<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/37ba7236-2a64-4807-b1e1-7e21ee7d0914\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Desbloquea el Editor&#8217;s Digest gratis Roula Khalaf, editora del FT, selecciona sus historias favoritas en este bolet\u00edn semanal.<\/p>\n","protected":false},"author":1,"featured_media":1359366,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[5094,21472,2690,1219,72318,36,1826,7906,2431,83672,18,4578,1067,1956,11742],"class_list":["post-1359365","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-armas","tag-biologicas","tag-crear","tag-dice","tag-indebidamente","tag-los","tag-mayor","tag-modelos","tag-nuevos","tag-openai","tag-para","tag-riesgo","tag-ser","tag-tienen","tag-utilizados"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1359365","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1359365"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1359365\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1359366"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1359365"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1359365"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1359365"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}