{"id":1063418,"date":"2023-11-25T16:52:37","date_gmt":"2023-11-25T16:52:37","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-condenadores-de-la-ia-han-perdido-esta-batalla\/"},"modified":"2023-11-25T16:52:37","modified_gmt":"2023-11-25T16:52:37","slug":"los-condenadores-de-la-ia-han-perdido-esta-batalla","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-condenadores-de-la-ia-han-perdido-esta-batalla\/","title":{"rendered":"Los &#8216;condenadores de la IA&#8217; han perdido esta batalla"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrate en <!-- -->Inteligencia artificial<!-- --> myFT Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=a2c29506-4a38-47a3-8775-beb5e488c169&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p><em>El escritor es analista de tecnolog\u00eda.<\/em><\/p>\n<p>Durante la semana pasada, la junta directiva de OpenAI pas\u00f3 por cuatro directores ejecutivos en cinco d\u00edas.  Acus\u00f3 al director ejecutivo original, Sam Altman, de mentir, pero luego se ech\u00f3 atr\u00e1s y se neg\u00f3 a decir lo que eso significaba.  El noventa por ciento del personal de la organizaci\u00f3n firm\u00f3 una carta abierta diciendo que renunciar\u00edan si la junta no lo hac\u00eda.  Silicon Valley estaba al mismo tiempo fascinado y horrorizado.  El mi\u00e9rcoles, Altman hab\u00eda regresado, dos de los tres miembros externos de la junta hab\u00edan sido reemplazados y todos pod\u00edan dormir un poco.<\/p>\n<p>Ser\u00eda f\u00e1cil decir que este caos demostr\u00f3 que tanto la junta directiva de OpenAI como su curiosa estructura subdividida sin fines de lucro y con fines de lucro no eran adecuadas para su prop\u00f3sito.  Tambi\u00e9n se podr\u00eda sugerir que los miembros externos de la junta directiva no ten\u00edan los antecedentes o la experiencia adecuados para supervisar una empresa de 90.000 millones de d\u00f3lares que ha estado fijando la agenda para un avance tecnol\u00f3gico de enorme importancia.  Probablemente tambi\u00e9n se podr\u00edan decir cosas menos educadas, y todo eso podr\u00eda ser cierto, pero tambi\u00e9n ser\u00eda incompleto.  <\/p>\n<p>Hasta donde sabemos (y el hecho mismo de que tenga que decirlo tambi\u00e9n es un problema), el conflicto subyacente dentro de OpenAI fue uno que mucha gente se\u00f1al\u00f3 y, de hecho, se burl\u00f3 durante el a\u00f1o pasado.  OpenAI se cre\u00f3 para intentar construir una versi\u00f3n autom\u00e1tica de algo parecido a la inteligencia humana (la llamada \u201cAGI\u201d, o inteligencia artificial general).  La premisa era que esto era posible en a\u00f1os y no en d\u00e9cadas, y potencialmente muy bueno pero tambi\u00e9n potencialmente muy peligroso, no s\u00f3lo para cosas triviales como la democracia o la sociedad, sino para la humanidad misma. <\/p>\n<p>\u00c9sa es la raz\u00f3n de la extra\u00f1a estructura organizativa: controlar el riesgo.  Altman ha estado construyendo esto lo m\u00e1s r\u00e1pido posible, al mismo tiempo que dice en voz muy alta y con frecuencia que esto es extremadamente peligroso y que los gobiernos deber\u00edan involucrarse para controlar cualquier intento de construirlo.  Bueno, \u00bfcu\u00e1l es?<\/p>\n<p>Muchos en el sector tecnol\u00f3gico piensan que expresar tales preocupaciones es un simple intento de captura regulatoria anticompetitiva.  Esto se aplica particularmente a movimientos m\u00e1s amplios contra los modelos de IA de c\u00f3digo abierto (vistos en la orden ejecutiva de la Casa Blanca sobre IA el mes pasado): la gente piensa que OpenAI est\u00e1 tratando de lograr que los gobiernos proh\u00edban la competencia.<\/p>\n<p>Puede que sea cierto, pero personalmente creo que las personas que afirman que AGI es cercano y peligroso son sinceras, y eso hace que su deseo de construirlo sea a\u00fan m\u00e1s conflictivo.  Esa parece ser la mejor explicaci\u00f3n de lo que ha sucedido en OpenAI: aquellos que piensan que debemos reducir la velocidad y tener cuidado dieron un golpe de estado contra aquellos que piensan que debemos acelerar y tener cuidado. <\/p>\n<p>Parte del problema y del conflicto cuando se trata de discutir la AGI es que es un concepto abstracto (un experimento mental) sin ning\u00fan modelo te\u00f3rico claro o bien comprendido.  Los ingenieros del Programa Apolo sab\u00edan qu\u00e9 tan lejos estaba la luna y cu\u00e1nto empuje ten\u00eda el cohete, pero no sabemos qu\u00e9 tan lejos est\u00e1 AGI, ni qu\u00e9 tan cerca est\u00e1n los grandes modelos de lenguaje de OpenAI, ni si pueden llegar all\u00ed. <\/p>\n<p>Podr\u00edas pasar semanas de tu vida viendo v\u00eddeos de cient\u00edficos del aprendizaje autom\u00e1tico discutiendo sobre esto y concluir \u00fanicamente que ellos tampoco lo saben.  ChatGPT podr\u00eda escalar hasta Terminator en cinco a\u00f1os, o en cinco d\u00e9cadas, o puede que no.  Esto podr\u00eda ser como mirar un biplano de la d\u00e9cada de 1920 y preocuparse de que pueda entrar en \u00f3rbita.  No lo sabemos. <\/p>\n<p>Esto significa que la mayor\u00eda de las conversaciones sobre el riesgo de la IA se convierten en b\u00fasqueda de met\u00e1foras (es \u201ccomo\u201d armas nucleares, o un meteorito, o incluso el Programa Apolo).  O sacan a la luz clases de filosof\u00eda de pregrado medio olvidadas (\u00a1la apuesta de Pascal! \u00a1La cueva de Plat\u00f3n!), o recurren a argumentos de autoridad (\u00a1Geoff Hinton est\u00e1 preocupado! \u00a1Yann LeCun no!).  Al final, esto se reduce a c\u00f3mo usted, instintivamente, se siente acerca del riesgo.  Si no puedes saber qu\u00e9 est\u00e1 cerca o no, \u00bfes motivo para preocuparte o para no preocuparte?  No hay respuesta correcta.  <\/p>\n<p>Desafortunadamente para los \u201cdoomers\u201d, los acontecimientos de la \u00faltima semana han acelerado todo.  Uno de los miembros de la junta directiva ahora dimitido fue citado diciendo que cerrar OpenAI ser\u00eda coherente con la misi\u00f3n (m\u00e1s vale prevenir que curar).  Pero los cientos de empresas que estaban construyendo sobre las interfaces de programaci\u00f3n de aplicaciones de OpenAI est\u00e1n luchando por encontrar alternativas, tanto de sus competidores comerciales como de la creciente ola de proyectos de c\u00f3digo abierto que no est\u00e1n controlados por nadie.  La IA ahora se mover\u00e1 m\u00e1s r\u00e1pido, estar\u00e1 m\u00e1s dispersa y menos controlada.  Los golpes fallidos a menudo aceleran lo que estaban tratando de prevenir. <\/p>\n<p>De hecho, una cr\u00edtica com\u00fan a los doomers es que su idea de que una poderosa pieza de software y unos pocos ingenieros brillantes pueden transformar el mundo es simplemente otra forma de utopismo tecnol\u00f3gico ingenuo y simplista: no logra comprender la verdadera naturaleza del poder, la complejidad y sistemas humanos.  Los perdedores del tablero demostraron exactamente eso: no sab\u00edan c\u00f3mo funciona el poder.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/a2c29506-4a38-47a3-8775-beb5e488c169\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[1121,217898,97,263,36,7304],"class_list":["post-1063418","post","type-post","status-publish","format-standard","hentry","category-general","tag-batalla","tag-condenadores","tag-esta","tag-han","tag-los","tag-perdido"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1063418","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1063418"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1063418\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1063418"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1063418"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1063418"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}