{"id":1048984,"date":"2023-11-16T13:45:10","date_gmt":"2023-11-16T13:45:10","guid":{"rendered":"https:\/\/teknomers.com\/es\/como-mantener-la-tapa-sobre-la-caja-de-pandora-de-la-ia-abierta\/"},"modified":"2023-11-16T13:45:10","modified_gmt":"2023-11-16T13:45:10","slug":"como-mantener-la-tapa-sobre-la-caja-de-pandora-de-la-ia-abierta","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/como-mantener-la-tapa-sobre-la-caja-de-pandora-de-la-ia-abierta\/","title":{"rendered":"C\u00f3mo mantener la tapa sobre la caja de Pandora de la IA abierta"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrate en <!-- -->Inteligencia artificial<!-- --> myFT Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=b62a32c9-a068-40c4-8612-9da8cffb396c&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p><em>El escritor es fundador de <\/em><a rel=\"nofollow noopener\" href=\"https:\/\/sifted.eu\/\" data-trackable=\"link\" target=\"_blank\"><em>tamizado<\/em><\/a><em>un sitio respaldado por FT sobre empresas emergentes europeas<\/em><\/p>\n<p>Est\u00e1 surgiendo r\u00e1pidamente como una de las divisiones tecnol\u00f3gicas, y cada vez m\u00e1s ideol\u00f3gicas, m\u00e1s importantes de nuestros tiempos: \u00bfdeben estar abiertos o cerrados los poderosos sistemas de inteligencia artificial generativa?  La forma en que se desarrolle ese debate afectar\u00e1 la productividad de nuestras econom\u00edas, la estabilidad de nuestras sociedades y la suerte de algunas de las empresas m\u00e1s ricas del mundo.<\/p>\n<p>Los partidarios de modelos de c\u00f3digo abierto, como LLaMA 2 de Meta o Bloom de Hugging Face, que permiten a los usuarios personalizar ellos mismos un potente software de IA generativa, dicen que ampl\u00edan el acceso a la tecnolog\u00eda, estimulan la innovaci\u00f3n y mejoran la confiabilidad al fomentar el escrutinio externo.  Los modelos abiertos m\u00e1s peque\u00f1os, mucho m\u00e1s baratos de desarrollar e implementar, tambi\u00e9n inyectan competencia en un campo dominado por grandes empresas estadounidenses como Google, Microsoft y OpenAI.  Estas empresas han invertido miles de millones en el desarrollo de sistemas de IA generativos masivos y cerrados, que controlan de cerca.<\/p>\n<p>Pero los detractores argumentan que los modelos abiertos corren el riesgo de levantar la tapa de una caja de Pandora de problemas.  Los malos actores pueden explotarlos para difundir desinformaci\u00f3n personalizada a escala global, mientras que los terroristas pueden usarlos para fabricar armas cibern\u00e9ticas o biol\u00f3gicas.  \u201cEl peligro del c\u00f3digo abierto es que permite que m\u00e1s locos cometan locuras\u201d, advirti\u00f3 Geoffrey Hinton, uno de los pioneros de la IA moderna. <\/p>\n<p>La historia de OpenAI, que desarroll\u00f3 el popular chatbot ChatGPT, es en s\u00ed misma instructiva.  Como su nombre indica, la empresa de investigaci\u00f3n se fund\u00f3 en 2015 con el compromiso de desarrollar la tecnolog\u00eda de la forma m\u00e1s abierta posible.  Pero luego abandon\u00f3 ese enfoque por razones tanto competitivas como de seguridad.  &#8220;Rotundamente, est\u00e1bamos equivocados&#8221;, dijo a The Verge Ilya Sutskever, cient\u00edfico jefe de OpenAI. <\/p>\n<p>Una vez que OpenAI se dio cuenta de que sus modelos de IA generativa iban a ser \u201cincre\u00edblemente potentes\u201d, ten\u00eda poco sentido abrirlos, dijo.  &#8220;Espero que en unos a\u00f1os ser\u00e1 completamente obvio para todos que la IA de c\u00f3digo abierto simplemente no es prudente&#8221;.<\/p>\n<p>Los partidarios de los modelos abiertos respondieron, ridiculizando la idea de que los modelos abiertos de IA generativa permiten a las personas acceder a informaci\u00f3n que de otro modo no podr\u00edan encontrar en Internet o en un cient\u00edfico deshonesto.  Tambi\u00e9n destacan el inter\u00e9s competitivo de las grandes empresas tecnol\u00f3gicas al gritar sobre los peligros de los modelos abiertos.  La siniestra intenci\u00f3n de estas empresas, sugieren los cr\u00edticos, es capturar a los reguladores, imponiendo mayores costos de cumplimiento a los insurgentes y afianzando as\u00ed su propio dominio del mercado.<\/p>\n<p>Pero este debate tambi\u00e9n tiene una dimensi\u00f3n ideol\u00f3gica.  Yann LeCun, cient\u00edfico jefe de Meta, que ha roto filas con los otros gigantes de Silicon Valley al defender modelos abiertos, ha comparado los argumentos de las empresas rivales para controlar la tecnolog\u00eda con el oscurantismo medieval: la creencia de que s\u00f3lo un sacerdocio de expertos autoseleccionados es sabio. suficiente para manejar el conocimiento. <\/p>\n<p>En el futuro, me dijo recientemente, todas nuestras interacciones con el vasto dep\u00f3sito digital de conocimiento humano estar\u00e1n mediadas por sistemas de inteligencia artificial.  No deber\u00edamos querer que un pu\u00f1ado de empresas de Silicon Valley controlen ese acceso.  As\u00ed como Internet floreci\u00f3 al resistir los intentos de encerrarlo, la IA prosperar\u00e1 si permanece abierta, sostiene LeCun, \u201csiempre que los gobiernos de todo el mundo no proh\u00edban toda la idea de la IA de c\u00f3digo abierto\u201d.<\/p>\n<p>Debates recientes en la cumbre sobre seguridad de la IA en Bletchley Park sugieren que al menos algunos responsables pol\u00edticos podr\u00edan estar avanzando en esa direcci\u00f3n.  Pero otros expertos proponen intervenciones m\u00e1s ligeras que mejorar\u00edan la seguridad sin acabar con la competencia. <\/p>\n<p>Wendy Hall, profesora de inform\u00e1tica en la Universidad de Southampton y miembro del \u00f3rgano asesor de IA de la ONU.<a rel=\"nofollow noopener\" href=\"https:\/\/www.un.org\/en\/ai-advisory-body\" data-trackable=\"link\" target=\"_blank\">y,<\/a> dice que no queremos vivir en un mundo donde s\u00f3lo las grandes empresas ejecutan IA generativa.  Tampoco queremos permitir que los usuarios hagan lo que quieran con modelos abiertos.  &#8220;Tenemos que encontrar alg\u00fan compromiso&#8221;, sugiere.<\/p>\n<p>Su soluci\u00f3n preferida, que est\u00e1 ganando terreno en otros lugares, es regular los modelos de IA generativa de manera similar a la industria automovil\u00edstica.  Los reguladores imponen estrictas normas de seguridad a los fabricantes de autom\u00f3viles antes de lanzar nuevos modelos.  Pero tambi\u00e9n imponen responsabilidades a los conductores y los hacen responsables de sus acciones.  &#8220;Si haces algo con c\u00f3digo abierto que es irresponsable y que causa da\u00f1o, deber\u00edas ir a la c\u00e1rcel, como si matas a alguien mientras conduce un coche&#8221;, dice Hall.<\/p>\n<p>Ciertamente deber\u00edamos resistir la tiran\u00eda de lo binario cuando se trata de pensar en modelos de IA.  Tanto los modelos abiertos como los cerrados tienen sus ventajas y desventajas.  A medida que las capacidades de estos modelos evolucionen, tendremos que ajustar constantemente la ponderaci\u00f3n entre competencia y control.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/b62a32c9-a068-40c4-8612-9da8cffb396c\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[9486,6421,440,3058,46377,131,7510],"class_list":["post-1048984","post","type-post","status-publish","format-standard","hentry","category-general","tag-abierta","tag-caja","tag-como","tag-mantener","tag-pandora","tag-sobre","tag-tapa"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1048984","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1048984"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1048984\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1048984"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1048984"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1048984"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}