{"id":1021573,"date":"2023-10-30T01:38:10","date_gmt":"2023-10-30T01:38:10","guid":{"rendered":"https:\/\/teknomers.com\/es\/como-la-cumbre-de-sunak-en-bletchley-park-pretende-dar-forma-a-la-seguridad-global-de-la-ia\/"},"modified":"2023-10-30T01:38:10","modified_gmt":"2023-10-30T01:38:10","slug":"como-la-cumbre-de-sunak-en-bletchley-park-pretende-dar-forma-a-la-seguridad-global-de-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/como-la-cumbre-de-sunak-en-bletchley-park-pretende-dar-forma-a-la-seguridad-global-de-la-ia\/","title":{"rendered":"C\u00f3mo la cumbre de Sunak en Bletchley Park pretende dar forma a la seguridad global de la IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Desde que Rishi Sunak anunci\u00f3 en junio que el Reino Unido ser\u00eda el anfitri\u00f3n de la \u201cprimera gran cumbre mundial sobre seguridad de la inteligencia artificial\u201d, los funcionarios de Westminster se han apresurado a reunir una lista de invitados de jefes tecnol\u00f3gicos, formuladores de pol\u00edticas e investigadores dentro de un plazo l\u00edmite. <\/p>\n<p>La promesa de Sunak de organizar un evento de tan alto perfil en tan s\u00f3lo seis meses no fue s\u00f3lo un intento de posicionar al Reino Unido como l\u00edder en un nuevo campo candente.  Los organizadores estaban ansiosos por avanzar antes de que empresas como Google y OpenAI lancen la pr\u00f3xima generaci\u00f3n de sistemas de inteligencia artificial, dando a los l\u00edderes globales la oportunidad de establecer principios para gobernar la nueva y poderosa tecnolog\u00eda antes de que supere los esfuerzos para controlarla. <\/p>\n<p>&#8220;Lo ideal ser\u00eda que hubi\u00e9ramos tenido un a\u00f1o para prepararnos&#8221;, dijo una persona involucrada en la organizaci\u00f3n de la cumbre.  \u201cNos hemos apresurado para que esto suceda antes del pr\u00f3ximo [AI] Vienen modelos\u201d.<\/p>\n<p>Al enfatizar lo mucho que est\u00e1 en juego antes de la cumbre de la pr\u00f3xima semana en Bletchley Park, Sunak advirti\u00f3 en un discurso el jueves que \u201cla humanidad podr\u00eda perder completamente el control de la IA\u201d si la tecnolog\u00eda no recib\u00eda la supervisi\u00f3n adecuada, incluso cuando creaba nuevas oportunidades. <\/p>\n<p>Despu\u00e9s de que ChatGPT sac\u00f3 a la luz p\u00fablica la IA generativa (tecnolog\u00eda capaz de crear r\u00e1pidamente texto, im\u00e1genes o c\u00f3digos inform\u00e1ticos similares a los humanos) a finales del a\u00f1o pasado, ha habido una creciente preocupaci\u00f3n sobre c\u00f3mo se podr\u00eda abusar del software.  Los cr\u00edticos dicen que la IA se utilizar\u00e1 para crear y difundir informaci\u00f3n err\u00f3nea, aumentar los prejuicios dentro de la sociedad o ser utilizada como arma en ciberataques y guerras. <\/p>\n<figure class=\"n-content-image n-content-image--full\"><picture><source media=\"(min-width: 700px)\"  width=\"1375\" height=\"917\"\/><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/10\/Como-la-cumbre-de-Sunak-en-Bletchley-Park-pretende-dar.jpg\" alt=\"Rishi Sunak en Bletchley Park\" data-image-type=\"image\" width=\"1375\" height=\"917\"\/><\/picture><figcaption class=\"n-content-picture__caption\"><span>Rishi Sunak dijo en Bletchley Park el jueves que el Reino Unido no se &#8220;apresurar\u00eda a regular&#8221; la IA.<\/span><span> <!-- -->\u00a9 Tolga Akmen\/Pool\/EPA-EFE\/Shutterstock<\/span><\/figcaption><\/figure>\n<p>Se espera que la pr\u00f3xima semana se unan al esfuerzo por establecer reglas b\u00e1sicas para el desarrollo de la &#8220;IA de frontera&#8221; l\u00edderes pol\u00edticos de alrededor de 28 pa\u00edses, incluidos EE. UU., Europa, Singapur, los estados del Golfo y China, junto con altos ejecutivos de las grandes empresas tecnol\u00f3gicas y l\u00edderes Desarrolladores de IA. <\/p>\n<p>El Financial Times ha obtenido una lista de empresas, gobiernos y organizaciones que se espera que asistan a la cumbre, que se publica en su totalidad al final de este art\u00edculo.  Un portavoz del gobierno del Reino Unido dijo: &#8220;Como es habitual, no especularemos sobre posibles invitados&#8221;. <\/p>\n<p>Se espera que una lista de invitados de alrededor de 100 personas incluya al presidente de Microsoft, Brad Smith, al director ejecutivo de OpenAI, Sam Altman, al jefe de Google DeepMind, Demis Hassabis, y al jefe de Meta AI, Yann LeCun, y al presidente de asuntos globales, Nick Clegg.  Elon Musk, el multimillonario tecnol\u00f3gico que a principios de este a\u00f1o form\u00f3 una nueva empresa de inteligencia artificial llamada x.ai, ha sido invitado pero no se ha comprometido a asistir, seg\u00fan personas familiarizadas con el asunto. <\/p>\n<p>Los grupos tecnol\u00f3gicos chinos Alibaba y Tencent asistir\u00e1n, al igual que la Academia de Ciencias de China, el principal grupo de expertos cient\u00edficos financiado por el estado del pa\u00eds, seg\u00fan la lista obtenida por el Financial Times.  Una delegaci\u00f3n del gobierno chino representada por el Ministerio de Ciencia y Tecnolog\u00eda, seg\u00fan personas familiarizadas con sus planes, asistir\u00e1. <\/p>\n<p>Sin embargo, la selecta lista de asistentes a la cumbre ha generado cr\u00edticas por parte de algunas organizaciones y ejecutivos ajenos a la industria tecnol\u00f3gica, que se sienten excluidos de la reuni\u00f3n. <\/p>\n<p>Los representantes del primer ministro en materia de inteligencia artificial (el inversor en tecnolog\u00eda Matt Clifford y el exdiplom\u00e1tico Jonathan Black) han pasado la mayor parte de un mes en aviones visitando pa\u00edses para conocer sus posiciones sobre la IA y encontrar puntos en com\u00fan. <\/p>\n<p>Las personas involucradas en la cumbre dijeron que su mandato se hab\u00eda ampliado considerablemente en los meses transcurridos desde que Sunak la anunci\u00f3 por primera vez.  Inicialmente, se hab\u00eda centrado casi exclusivamente en los riesgos para la seguridad nacional, como los ciberataques y la capacidad de utilizar IA para dise\u00f1ar armas biol\u00f3gicas;  ahora se espera que cubra todo, desde deepfakes hasta atenci\u00f3n m\u00e9dica. <\/p>\n<p>Dentro del gobierno ha habido desacuerdo sobre el alcance del evento, dijeron estas personas.  El Departamento de Ciencia, Innovaci\u00f3n y Tecnolog\u00eda quer\u00eda una lista m\u00e1s amplia de invitaciones y debates m\u00e1s amplios sobre los impactos sociales de la IA, mientras que el N\u00famero 10 prefiri\u00f3 mantenerlo en manos de un peque\u00f1o grupo de naciones y jefes tecnol\u00f3gicos para centrarse en el cometido m\u00e1s limitado de la seguridad nacional. <\/p>\n<p>&#8220;Ha sido un caos absoluto y nadie ha tenido claro qui\u00e9n tiene la firma en todo esto&#8221;, dijo una persona involucrada en la cumbre. <\/p>\n<p>La agenda final, el primer d\u00eda, incluir\u00e1 mesas redondas sobre formas pr\u00e1cticas de abordar la seguridad y lo que pueden hacer los formuladores de pol\u00edticas, la comunidad internacional, las empresas de tecnolog\u00eda y los cient\u00edficos.  Terminar\u00e1 con un estudio de caso sobre el uso de la IA para el bien p\u00fablico en la educaci\u00f3n. <\/p>\n<aside aria-labelledby=\"aside-label\" class=\"n-content-recommended--single-story\">\n<p class=\"n-content-recommended__title\">Recomendado<\/p>\n<div class=\"o-teaser o-teaser--article o-teaser--small o-teaser--stacked o-teaser--has-image js-teaser\" data-id=\"647fdf88-d757-45e4-a640-9654673b7ece\">\n<div class=\"o-teaser__image-container js-teaser-image-container\">\n<div class=\"o-teaser__image-placeholder\" style=\"padding-bottom:56.2500%\"><img decoding=\"async\" class=\"o-teaser__image\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/10\/Como-la-cumbre-de-Sunak-en-Bletchley-Park-pretende-dar.com\/__origami\/service\/image\/v2\/images\/raw\/https%3A%2F%2Fd1e.jpeg\" alt=\"\"\/><\/div>\n<\/div>\n<\/div>\n<\/aside>\n<p>El segundo d\u00eda, encabezado por Sunak, alrededor de 30 l\u00edderes pol\u00edticos y ejecutivos tecnol\u00f3gicos se reunir\u00e1n en un ambiente m\u00e1s privado.  Los temas cubiertos incluir\u00e1n medidas para hacer que la IA sea segura, as\u00ed como conversaciones bilaterales y comentarios finales del primer ministro anfitri\u00f3n. <\/p>\n<p>Uno de los productos de la cumbre ser\u00e1 un comunicado cuyo objetivo es establecer la posici\u00f3n compartida de los asistentes sobre la naturaleza exacta de la amenaza que plantea la IA. <\/p>\n<p>Un borrador anterior sugiri\u00f3 que afirmar\u00eda que la llamada &#8220;IA de frontera&#8221;, la forma m\u00e1s avanzada de la tecnolog\u00eda que sustenta productos como ChatGPT de OpenAI y el chatbot Bard de Google, podr\u00eda causar &#8220;da\u00f1os graves, incluso catastr\u00f3ficos&#8221;. <\/p>\n<p>El comunicado es uno de los cuatro resultados clave que los organizadores est\u00e1n planeando a partir de la cumbre, seg\u00fan una fuente del gobierno informada sobre los planes.  Los otros son la creaci\u00f3n de un Instituto de Seguridad de la IA, un panel internacional que investigar\u00e1 los riesgos cambiantes de la IA y el anuncio del pr\u00f3ximo pa\u00eds anfitri\u00f3n del evento. <\/p>\n<p>En el discurso del jueves, Sunak dijo que el Reino Unido no se \u201capresurar\u00eda a regular\u201d la IA.  En cambio, es probable que la cumbre se centre en los est\u00e1ndares de \u201cmejores pr\u00e1cticas\u201d para las empresas, dijeron funcionarios involucrados en el evento. <\/p>\n<p>Sin embargo, el gobierno todav\u00eda est\u00e1 interesado en evaluar de forma independiente los modelos que impulsan los productos de IA.  Los funcionarios han estado negociando con las empresas de tecnolog\u00eda sobre un acceso m\u00e1s profundo a sus sistemas.  El gobierno tambi\u00e9n ha estado intentando comprar chips de empresas como Nvidia, para construir sistemas inform\u00e1ticos sofisticados que ejecuten pruebas de seguridad independientes en modelos de IA. <\/p>\n<figure class=\"n-content-image n-content-image--full\"><picture><source media=\"(min-width: 700px)\"  width=\"1718\" height=\"1145\"\/><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/10\/1698629890_261_Como-la-cumbre-de-Sunak-en-Bletchley-Park-pretende-dar.jpg\" alt=\"Parque Bletchley\" data-image-type=\"image\" width=\"1718\" height=\"1145\"\/><\/picture><figcaption class=\"n-content-picture__caption\"><span>Bletchley Park, sede de la cumbre de IA y hogar hist\u00f3rico de los descifradores de c\u00f3digos y pioneros inform\u00e1ticos de Gran Breta\u00f1a en tiempos de guerra<\/span><span> <!-- -->\u00a9Jack Taylor\/Getty Images<\/span><\/figcaption><\/figure>\n<p>Un documento del gobierno, que se publicar\u00e1 el viernes, expondr\u00e1 recomendaciones para desarrollar la escala de la IA de manera responsable.  Las empresas deber\u00edan contar con pol\u00edticas para apagar sus productos si no se puede evitar el da\u00f1o de otra manera, emplear consultores de seguridad para tratar de &#8220;piratear&#8221; sus sistemas para identificar vulnerabilidades y crear etiquetas para el contenido creado o modificado por IA, dice el documento. <\/p>\n<p>Michelle Donelan, ministra de tecnolog\u00eda del Reino Unido que preside el primer d\u00eda de la cumbre, aboga por que las empresas de IA se suscriban a estos procesos en el evento. <\/p>\n<p>&#8220;No deber\u00edamos ni so\u00f1ar con tener una empresa en este espacio sin implementar este proceso de seguridad&#8221;, dijo Donelan al Financial Times.  \u201cTodas las empresas est\u00e1n de acuerdo en que las cosas tienen que cambiar.  Est\u00e1n inc\u00f3modos con la situaci\u00f3n actual, que b\u00e1sicamente es que est\u00e1n marcando sus propios deberes, y por eso aceptaron trabajar con nosotros\u201d. <\/p>\n<p><em>Informaci\u00f3n adicional de Hannah Murphy, George Parker y Qianer Liu<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/e0574e79-d723-4d94-9681-fae22648e3ad\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Desde que Rishi Sunak anunci\u00f3 en junio que el Reino Unido ser\u00eda el anfitri\u00f3n de la \u201cprimera gran<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[212712,440,3001,3111,4089,1982,23606,11629,42,30515],"class_list":["post-1021573","post","type-post","status-publish","format-standard","hentry","category-general","tag-bletchley","tag-como","tag-cumbre","tag-dar","tag-forma","tag-global","tag-park","tag-pretende","tag-seguridad","tag-sunak"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1021573","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1021573"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1021573\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1021573"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1021573"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1021573"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}