{"id":1129732,"date":"2024-01-11T11:46:33","date_gmt":"2024-01-11T11:46:33","guid":{"rendered":"https:\/\/teknomers.com\/es\/empresas-estadounidenses-y-expertos-chinos-participan-en-diplomacia-secreta-sobre-seguridad-de-la-ia\/"},"modified":"2024-01-11T11:46:38","modified_gmt":"2024-01-11T11:46:38","slug":"empresas-estadounidenses-y-expertos-chinos-participan-en-diplomacia-secreta-sobre-seguridad-de-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/empresas-estadounidenses-y-expertos-chinos-participan-en-diplomacia-secreta-sobre-seguridad-de-la-ia\/","title":{"rendered":"Empresas estadounidenses y expertos chinos participan en diplomacia secreta sobre seguridad de la IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrate en <!-- -->Inteligencia artificial<!-- --> myFT Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=f87b693f-9ba3-4929-8b95-a296b0278021&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Las empresas de inteligencia artificial OpenAI, Anthropic y Cohere han entablado una diplomacia secreta con expertos chinos en IA, en medio de la preocupaci\u00f3n compartida sobre c\u00f3mo la poderosa tecnolog\u00eda puede difundir informaci\u00f3n err\u00f3nea y amenazar la cohesi\u00f3n social. <\/p>\n<p>Seg\u00fan varias personas con conocimiento directo, en julio y octubre del a\u00f1o pasado se celebraron dos reuniones en Ginebra a las que asistieron cient\u00edficos y expertos en pol\u00edticas de los grupos norteamericanos de IA, junto con representantes de la Universidad de Tsinghua y otras instituciones respaldadas por el estado chino.<\/p>\n<p>Los asistentes dijeron que las conversaciones permitieron a ambas partes discutir los riesgos de la tecnolog\u00eda emergente y fomentar las inversiones en la investigaci\u00f3n de seguridad de la IA.  Agregaron que el objetivo final era encontrar un camino cient\u00edfico para desarrollar de manera segura una tecnolog\u00eda de inteligencia artificial m\u00e1s sofisticada. <\/p>\n<p>&#8220;No hay manera de que establezcamos est\u00e1ndares internacionales en torno a la seguridad y la alineaci\u00f3n de la IA sin un acuerdo entre este conjunto de actores&#8221;, dijo una persona presente en las conversaciones.  &#8220;Y si est\u00e1n de acuerdo, ser\u00e1 mucho m\u00e1s f\u00e1cil atraer a los dem\u00e1s&#8221;. <\/p>\n<p>Las conversaciones de las que no se hab\u00eda informado anteriormente son una rara se\u00f1al de cooperaci\u00f3n entre China y Estados Unidos en medio de una carrera por la supremac\u00eda entre las dos principales potencias en el \u00e1rea de tecnolog\u00edas de vanguardia como la inteligencia artificial y la computaci\u00f3n cu\u00e1ntica.  Actualmente, Washington ha bloqueado las exportaciones estadounidenses de chips de alto rendimiento fabricados por empresas como Nvidia que se necesitan para desarrollar software sofisticado de inteligencia artificial.  <\/p>\n<p>Pero el tema de la seguridad de la IA se ha convertido en un punto de inter\u00e9s com\u00fan entre los desarrolladores de la tecnolog\u00eda en ambos pa\u00edses, dados los posibles riesgos existenciales para la humanidad. <\/p>\n<p>Las reuniones de Ginebra se organizaron con el conocimiento de la Casa Blanca, as\u00ed como de funcionarios gubernamentales del Reino Unido y China, seg\u00fan un negociador presente, que pidi\u00f3 no ser identificado. <\/p>\n<p>&#8220;China apoya los esfuerzos para discutir la gobernanza de la IA y desarrollar marcos, normas y est\u00e1ndares necesarios basados \u200b\u200ben un amplio consenso&#8221;, dijo la embajada china en el Reino Unido. <\/p>\n<p>&#8220;China est\u00e1 dispuesta a llevar a cabo comunicaciones, intercambios y cooperaci\u00f3n pr\u00e1ctica con diversas partes sobre la gobernanza global de la IA y garantizar que la IA se desarrolle de una manera que haga avanzar la civilizaci\u00f3n humana&#8221;. <\/p>\n<p>Las conversaciones fueron convocadas por el Shaikh Group, una organizaci\u00f3n de mediaci\u00f3n privada que facilita el di\u00e1logo entre actores clave en regiones en conflicto, particularmente en Medio Oriente. <\/p>\n<p>\u201cVimos una oportunidad de reunir a actores clave de Estados Unidos y China que trabajan en IA.  Nuestro objetivo principal era subrayar las vulnerabilidades, los riesgos y las oportunidades que conlleva el amplio despliegue de modelos de IA que se comparten en todo el mundo\u201d, dijo Salman Shaikh, director ejecutivo del grupo. <\/p>\n<p>&#8220;En nuestra opini\u00f3n, reconocer este hecho puede convertirse en la base para el trabajo cient\u00edfico colaborativo y, en \u00faltima instancia, conducir a est\u00e1ndares globales en torno a la seguridad de los modelos de IA&#8221;. <\/p>\n<p>Quienes participaron en las conversaciones dijeron que las empresas chinas de inteligencia artificial como ByteDance, Tencent y Baidu no participaron;  Si bien Google DeepMind fue informado de los detalles de las discusiones, no asisti\u00f3. <\/p>\n<p>Durante las conversaciones, expertos en IA de ambas partes debatieron \u00e1reas para la participaci\u00f3n en la cooperaci\u00f3n t\u00e9cnica, as\u00ed como propuestas pol\u00edticas m\u00e1s concretas que alimentaron las discusiones en torno a la reuni\u00f3n del Consejo de Seguridad de la ONU sobre IA en julio de 2023 y la cumbre sobre IA del Reino Unido en noviembre pasado. a\u00f1o. <\/p>\n<aside aria-labelledby=\"aside-label\" class=\"n-content-recommended--single-story\">\n<p class=\"n-content-recommended__title\">Recomendado<\/p>\n<div class=\"o-teaser o-teaser--article o-teaser--small o-teaser--stacked o-teaser--has-image js-teaser\" data-id=\"c7f8b6dc-e742-4094-9ee7-3178dd4b597f\">\n<div class=\"o-teaser__image-container js-teaser-image-container\">\n<div class=\"o-teaser__image-placeholder\" style=\"padding-bottom:56.2500%\"><\/div>\n<\/div>\n<\/div>\n<\/aside>\n<p>El \u00e9xito de las reuniones ha llevado a planes para futuras discusiones que se centrar\u00e1n en propuestas cient\u00edficas y t\u00e9cnicas sobre c\u00f3mo alinear los sistemas de IA con los c\u00f3digos legales y las normas y valores de cada sociedad, seg\u00fan el negociador presente. <\/p>\n<p>Ha habido crecientes llamados a la cooperaci\u00f3n entre las principales potencias para abordar el auge de la IA.<\/p>\n<p>En noviembre, los cient\u00edficos chinos que trabajan en inteligencia artificial se unieron a acad\u00e9micos occidentales para pedir controles m\u00e1s estrictos sobre la tecnolog\u00eda, firmando una declaraci\u00f3n que advert\u00eda que la IA avanzada representar\u00eda un \u201criesgo existencial para la humanidad\u201d en las pr\u00f3ximas d\u00e9cadas.<\/p>\n<p>El grupo, que inclu\u00eda a Andrew Yao, uno de los cient\u00edficos inform\u00e1ticos m\u00e1s destacados de China, pidi\u00f3 la creaci\u00f3n de un organismo regulador internacional, el registro y la auditor\u00eda obligatorios de los sistemas avanzados de IA, la inclusi\u00f3n de procedimientos de &#8220;apagado&#8221; instant\u00e1neo y que los desarrolladores gasten 30 por ciento de su presupuesto de investigaci\u00f3n sobre seguridad de la IA.<\/p>\n<p>OpenAI, Anthropic y Cohere declinaron hacer comentarios sobre su participaci\u00f3n.  La Universidad de Tsinghua no respondi\u00f3 de inmediato a una solicitud de comentarios.<\/p>\n<p><em>Este art\u00edculo ha sido modificado para dejar claro en el subt\u00edtulo que Anthropic, no Inflection, estuvo involucrado en las conversaciones de Ginebra.<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/f87b693f-9ba3-4929-8b95-a296b0278021\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de<\/p>\n","protected":false},"author":1,"featured_media":1129733,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[4289,1087,3581,833,385,19654,15187,42,131],"class_list":["post-1129732","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-chinos","tag-diplomacia","tag-empresas","tag-estadounidenses","tag-expertos","tag-participan","tag-secreta","tag-seguridad","tag-sobre"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1129732","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1129732"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1129732\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1129733"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1129732"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1129732"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1129732"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}