{"id":1376424,"date":"2024-09-26T01:02:42","date_gmt":"2024-09-26T01:02:42","guid":{"rendered":"https:\/\/teknomers.com\/es\/necesitamos-una-administracion-de-alimentos-y-medicamentos-para-la-ia\/"},"modified":"2024-09-26T01:02:47","modified_gmt":"2024-09-26T01:02:47","slug":"necesitamos-una-administracion-de-alimentos-y-medicamentos-para-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/necesitamos-una-administracion-de-alimentos-y-medicamentos-para-la-ia\/","title":{"rendered":"Necesitamos una Administraci\u00f3n de Alimentos y Medicamentos para la IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrese en el <!-- -->Inteligencia artificial<!-- --> myFT Digest \u2013 entregado directamente en su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=8b190ef1-32d8-4196-9643-3396a44d3bcd&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p><em>El autor es director ejecutivo del Aspen Strategy Group y miembro visitante de la Instituci\u00f3n Hoover de la Universidad de Stanford.<\/em><\/p>\n<p>Si bien se han salvado millones de vidas gracias a los medicamentos, muchos miles murieron durante el siglo XIX por ingerir medicamentos peligrosos vendidos por charlatanes. En Estados Unidos y Europa, esto llev\u00f3 a la implementaci\u00f3n gradual de leyes e institutos de seguridad de alimentos y medicamentos (incluida la Administraci\u00f3n de Alimentos y Medicamentos de Estados Unidos) para garantizar que los beneficios superaran los da\u00f1os.<\/p>\n<p>El auge de los modelos de lenguaje de gran escala de inteligencia artificial, como GPT-4, est\u00e1 impulsando a las industrias para que todo, desde la innovaci\u00f3n cient\u00edfica hasta la educaci\u00f3n y la producci\u00f3n cinematogr\u00e1fica, sea m\u00e1s f\u00e1cil y eficiente. Pero, adem\u00e1s de los enormes beneficios, estas tecnolog\u00edas tambi\u00e9n pueden crear graves riesgos para la seguridad nacional. <\/p>\n<p>No permitir\u00edamos que se vendiera un nuevo medicamento sin realizar pruebas exhaustivas de seguridad y eficacia, as\u00ed que \u00bfpor qu\u00e9 la IA deber\u00eda ser diferente? Crear una \u201cAdministraci\u00f3n de Alimentos y Medicamentos para la IA\u201d puede ser una met\u00e1fora contundente, ya que <a rel=\"nofollow noopener\" href=\"https:\/\/ainowinstitute.org\/publication\/what-can-we-learn-from-the-fda-model-for-ai-regulation\" data-trackable=\"link\" target=\"_blank\">Instituto AI Now<\/a> ha escrito, pero es hora de que los gobiernos exijan pruebas de seguridad de la IA.<\/p>\n<p>El gobierno del Reino Unido bajo el ex primer ministro Rishi Sunak merece un verdadero reconocimiento en este sentido: despu\u00e9s de solo un a\u00f1o de que Sunak asumiera el cargo, el Reino Unido celebr\u00f3 la revolucionaria Cumbre de Seguridad de IA de Bletchley Park, cre\u00f3 un Instituto de Seguridad de IA relativamente bien financiado y evalu\u00f3 cinco grandes modelos ling\u00fc\u00edsticos l\u00edderes.<\/p>\n<p>Estados Unidos y otros pa\u00edses como Singapur, Canad\u00e1 y Jap\u00f3n est\u00e1n imitando el enfoque del Reino Unido, pero estos esfuerzos todav\u00eda est\u00e1n en sus primeras etapas. OpenAI y Anthropic est\u00e1n permitiendo voluntariamente que Estados Unidos y el Reino Unido prueben sus modelos, y merecen elogios por ello. <\/p>\n<p>Ahora es el momento de ir m\u00e1s all\u00e1. La brecha m\u00e1s evidente en nuestro enfoque actual de la seguridad de la IA es la falta de pruebas obligatorias, independientes y rigurosas para evitar que la IA cause da\u00f1os. Esas pruebas solo deber\u00edan aplicarse a los modelos m\u00e1s grandes y ser obligatorias antes de que se lance al p\u00fablico. <\/p>\n<p>Si bien las pruebas de drogas pueden llevar a\u00f1os, los equipos t\u00e9cnicos del AI Safety Institute han podido realizar pruebas muy espec\u00edficas en el lapso de unas pocas semanas. Por lo tanto, la seguridad no frenar\u00eda significativamente la innovaci\u00f3n.<\/p>\n<p>Las pruebas deber\u00edan centrarse espec\u00edficamente en el grado en que el modelo podr\u00eda causar da\u00f1os f\u00edsicos tangibles, como su capacidad para ayudar a crear armas biol\u00f3gicas o qu\u00edmicas y socavar las defensas cibern\u00e9ticas. Tambi\u00e9n es importante evaluar si el modelo es dif\u00edcil de controlar para los humanos y si es capaz de entrenarse a s\u00ed mismo para \u201cescapar\u201d de las funciones de seguridad dise\u00f1adas para restringirlo. Parte de esto ya ha sucedido: en febrero de 2024 se descubri\u00f3 que piratas inform\u00e1ticos que trabajaban para China, Rusia, Corea del Norte e Ir\u00e1n hab\u00edan utilizado la tecnolog\u00eda de OpenAI para llevar a cabo nuevos ataques cibern\u00e9ticos. <\/p>\n<p>Si bien la IA \u00e9tica y los prejuicios tambi\u00e9n son cuestiones cr\u00edticas, hay m\u00e1s desacuerdo dentro de la sociedad sobre qu\u00e9 constituye tal prejuicio. Por lo tanto, las pruebas deber\u00edan centrarse inicialmente en la seguridad nacional y el da\u00f1o f\u00edsico a los seres humanos como la amenaza m\u00e1s preeminente que plantea la IA. Imaginemos, por ejemplo, si un grupo terrorista utilizara veh\u00edculos aut\u00f3nomos impulsados \u200b\u200bpor IA para apuntar y detonar explosivos, un temor expresado por la OTAN. <\/p>\n<p>Una vez que pasan estas pruebas iniciales, las empresas de inteligencia artificial (al igual que las de la industria farmac\u00e9utica) deber\u00edan estar obligadas a vigilar de cerca y de manera constante el posible abuso de sus modelos y a denunciar el uso indebido de inmediato. Una vez m\u00e1s, se trata de una pr\u00e1ctica habitual en la industria farmac\u00e9utica y garantiza que se retiren del mercado los medicamentos potencialmente da\u00f1inos.<\/p>\n<p>A cambio de ese seguimiento y esas pruebas, las empresas que cooperen deber\u00edan recibir una \u201cprotecci\u00f3n\u201d que las proteja de alguna responsabilidad legal. Tanto el sistema jur\u00eddico de Estados Unidos como el del Reino Unido tienen leyes vigentes que equilibran el peligro y la utilidad de productos como motores, autom\u00f3viles, medicamentos y otras tecnolog\u00edas. Por ejemplo, las aerol\u00edneas que han cumplido con las normas de seguridad no suelen ser responsables de las consecuencias de desastres naturales imprevisibles.<\/p>\n<p>Si quienes construyen la IA se niegan a cumplir, deber\u00edan enfrentar sanciones, tal como lo hacen las compa\u00f1\u00edas farmac\u00e9uticas si ocultan datos a los reguladores. <\/p>\n<p>California est\u00e1 allanando el camino en este sentido: el mes pasado, la legislatura del estado aprob\u00f3 un proyecto de ley (que actualmente espera la aprobaci\u00f3n del gobernador Gavin Newsom) que exige a los desarrolladores de inteligencia artificial crear protocolos de seguridad para mitigar los \u201cda\u00f1os cr\u00edticos\u201d. Si bien no es demasiado oneroso, se trata de un paso en la direcci\u00f3n correcta.  <\/p>\n<p>Durante d\u00e9cadas, los estrictos requisitos de presentaci\u00f3n de informes y pruebas en el sector farmac\u00e9utico han permitido el desarrollo responsable de medicamentos que ayudan, y no da\u00f1an, a la poblaci\u00f3n humana. De manera similar, si bien el Instituto de Seguridad de la IA en el Reino Unido y en otros lugares representa un primer paso crucial, para aprovechar al m\u00e1ximo los beneficios de la IA necesitamos acciones inmediatas y concretas para crear y hacer cumplir est\u00e1ndares de seguridad, antes de que los modelos causen da\u00f1os en el mundo real.<\/p>\n<div class=\"n-content-video n-content-video--internal\" data-component=\"video\">\n<div class=\"n-content-video__placeholder\" data-o-component=\"o-video\" data-o-video-id=\"391a1940-4c10-4e1a-aa0d-cc2c0bfd93b3\"><span>V\u00eddeo: Los creadores de contenidos se enfrentan a la IA | FT Tech<\/p>\n<p><\/span><\/div>\n<\/div>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/8b190ef1-32d8-4196-9643-3396a44d3bcd\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrese en el Inteligencia artificial myFT Digest \u2013 entregado directamente en su<\/p>\n","protected":false},"author":1,"featured_media":1376425,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[3625,3318,14286,1664,18,158],"class_list":["post-1376424","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-administracion","tag-alimentos","tag-medicamentos","tag-necesitamos","tag-para","tag-una"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1376424","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1376424"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1376424\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1376425"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1376424"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1376424"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1376424"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}