{"id":1198056,"date":"2024-02-22T18:02:26","date_gmt":"2024-02-22T18:02:26","guid":{"rendered":"https:\/\/teknomers.com\/es\/cuan-fatalistas-deberiamos-ser-con-respecto-a-la-ia\/"},"modified":"2024-02-22T18:02:32","modified_gmt":"2024-02-22T18:02:32","slug":"cuan-fatalistas-deberiamos-ser-con-respecto-a-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/cuan-fatalistas-deberiamos-ser-con-respecto-a-la-ia\/","title":{"rendered":"\u00bfCu\u00e1n fatalistas deber\u00edamos ser con respecto a la IA?"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrate en <!-- -->Inteligencia artificial<!-- --> myFT Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=c64592ac-a62f-4e8e-b99b-08c869c83f4b&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Una larga lista de oradores prestigiosos, desde Sir Winston Churchill hasta Dame Iris Murdoch, han pronunciado la conferencia anual sobre Romanes en la Universidad de Oxford, comenzando con William Gladstone en 1892. <\/p>\n<p>Pero rara vez, o nunca, un conferenciante puede haber hecho un comentario tan sorprendente como lo hizo Geoffrey Hinton esta semana.  El discurso del principal investigador de inteligencia artificial, provocativamente titulado <a rel=\"nofollow noopener\" href=\"https:\/\/www.ox.ac.uk\/news\/2024-02-20-romanes-lecture-godfather-ai-speaks-about-risks-artificial-intelligence\" data-trackable=\"link\" target=\"_blank\"><em>\u00bfLa inteligencia digital reemplazar\u00e1 a la inteligencia biol\u00f3gica?<\/em><\/a><em>,<\/em> Concluy\u00f3: casi con certeza, s\u00ed.  Pero Hinton rechaz\u00f3 la idea, com\u00fan en algunos c\u00edrculos tecnol\u00f3gicos de la costa oeste, de que el humanismo es de alg\u00fan modo \u201cracista\u201d al seguir afirmando la primac\u00eda de nuestra propia especie sobre las formas electr\u00f3nicas de inteligencia.  &#8220;Los humanos deber\u00edamos hacer nuestros mejores esfuerzos para permanecer aqu\u00ed&#8221;, brome\u00f3.<\/p>\n<p>El inform\u00e1tico brit\u00e1nico-canadiense salt\u00f3 a la fama como uno de los pioneros de las t\u00e9cnicas de \u201caprendizaje profundo\u201d que han revolucionado la IA, permitiendo la creaci\u00f3n de chatbots de IA generativa, como ChatGPT.  Durante la mayor parte de su carrera en el mundo acad\u00e9mico y en Google, Hinton crey\u00f3 que la IA no representaba una amenaza para la humanidad.  Pero el investigador de 76 a\u00f1os dice que experiment\u00f3 una &#8220;epifan\u00eda&#8221; el a\u00f1o pasado y abandon\u00f3 Google para hablar sobre los riesgos.<\/p>\n<p>Hinton se dio cuenta de que modelos de IA cada vez m\u00e1s potentes pod\u00edan actuar como \u201cmentes colmena\u201d, compartiendo lo que hab\u00edan aprendido entre s\u00ed, d\u00e1ndoles una gran ventaja sobre los humanos.  &#8220;Eso me hizo darme cuenta de que podr\u00edan ser una mejor forma de inteligencia&#8221;, me dijo en una entrevista antes de su conferencia. <\/p>\n<p>Todav\u00eda parece fant\u00e1stico que l\u00edneas de c\u00f3digo de software puedan amenazar a la humanidad.  Pero Hinton ve dos riesgos principales.  La primera es que los malos humanos dar\u00e1n a las m\u00e1quinas malos objetivos y las utilizar\u00e1n para malos prop\u00f3sitos, como la desinformaci\u00f3n masiva, el bioterrorismo, la guerra cibern\u00e9tica y los robots asesinos.  En particular, los modelos de IA de c\u00f3digo abierto, como Meta&#8217;s Llama, est\u00e1n poniendo enormes capacidades en manos de gente mala.  &#8220;Creo que es una locura abrir el c\u00f3digo fuente de estos grandes modelos&#8221;, afirma. <\/p>\n<p>Pero predice que los modelos tambi\u00e9n podr\u00edan \u201cevolucionar\u201d de maneras peligrosas, desarrollando una intencionalidad de control.  \u201cSi estuviera asesorando a los gobiernos, dir\u00eda que hay un 10 por ciento de posibilidades de que estas cosas acaben con la humanidad en los pr\u00f3ximos 20 a\u00f1os.  Creo que ser\u00eda una cifra razonable\u201d, afirma. <\/p>\n<p>Los argumentos de Hinton han sido atacados desde dos frentes.  En primer lugar, algunos investigadores sostienen que los modelos generativos de IA no son m\u00e1s que costosos trucos estad\u00edsticos y que los riesgos existenciales de la tecnolog\u00eda son \u201cfantas\u00eda de ciencia ficci\u00f3n\u201d.<\/p>\n<p>El destacado erudito <a rel=\"nofollow noopener\" href=\"https:\/\/www.nytimes.com\/2023\/03\/08\/opinion\/noam-chomsky-chatgpt-ai.html\" data-trackable=\"link\" target=\"_blank\">Noam Chomsky <\/a>Sostiene que los humanos hemos sido bendecidos con un \u201csistema operativo\u201d gen\u00e9ticamente instalado que nos ayuda a comprender el lenguaje, y del que carecen las m\u00e1quinas.  Pero Hinton sostiene que esto no tiene sentido dado que el \u00faltimo modelo GPT-4 de OpenAI puede aprender el lenguaje y mostrar empat\u00eda, razonamiento y sarcasmo.  &#8220;Estoy afirmando con firmeza que estos modelos s\u00ed entienden&#8221;, dijo en su conferencia. <\/p>\n<p>La otra l\u00ednea de ataque proviene de Yann LeCun, cient\u00edfico jefe de IA en Meta.  LeCun, partidario de los modelos de c\u00f3digo abierto, sostiene que nuestros sistemas de inteligencia artificial actuales son m\u00e1s tontos que los gatos y es \u201cabsurdo\u201d creer que representan una amenaza para los humanos, ya sea por dise\u00f1o o por defecto.  \u201cCreo que Yann est\u00e1 siendo un poco ingenuo.  El futuro de la humanidad depende de esto\u201d, responde Hinton.<\/p>\n<p>Los tonos tranquilos y mesurados de la expresi\u00f3n de Hinton contrastan marcadamente con el sombr\u00edo fatalismo de su mensaje.  \u00bfSe puede hacer algo para mejorar las posibilidades de la humanidad?  \u201cOjal\u00e1 lo supiera\u201d, responde.  &#8220;No estoy predicando una soluci\u00f3n particular, s\u00f3lo estoy predicando el problema&#8221;.<\/p>\n<p>Le alent\u00f3 que el Reino Unido organizara una cumbre sobre seguridad de la IA en Bletchley Park el a\u00f1o pasado, estimulando un debate pol\u00edtico internacional.  Pero desde entonces, dice, el gobierno brit\u00e1nico \u201cb\u00e1sicamente ha decidido que las ganancias est\u00e1n antes que la seguridad\u201d.  Al igual que con el cambio clim\u00e1tico, sugiere que s\u00f3lo se producir\u00e1n cambios pol\u00edticos serios una vez que se alcance un consenso cient\u00edfico.  Y acepta que hoy no existe.  Citando al f\u00edsico Max Planck, Hinton a\u00f1ade sombr\u00edamente: \u201cLa ciencia avanza un funeral a la vez\u201d.<\/p>\n<p>Dice que le alienta que una generaci\u00f3n m\u00e1s joven de cient\u00edficos inform\u00e1ticos est\u00e9 tomando en serio el riesgo existencial y sugiere que el 30 por ciento de los investigadores de IA deber\u00edan dedicarse a cuestiones de seguridad, en comparaci\u00f3n con aproximadamente el 1 por ciento actual.<\/p>\n<p>Deber\u00edamos desconfiar instintivamente de los investigadores que concluyen que se necesita m\u00e1s investigaci\u00f3n.  Pero en este caso, dados los riesgos y las incertidumbres involucradas, ser\u00e1 mejor que nos demos prisa.  Lo extraordinario del debate sobre el riesgo de la IA es el amplio espectro de opiniones que existen.  Necesitamos encontrar un nuevo consenso. <\/p>\n<p><em>john.thornhill@ft.com<\/em><\/p>\n<div class=\"n-content-video n-content-video--internal\">\n<div class=\"n-content-video__placeholder\" data-o-component=\"o-video\" data-o-video-id=\"1c199563-e2cd-4817-990f-79972f3828fb\"><span>V\u00eddeo: IA: \u00bfbendici\u00f3n o maldici\u00f3n para la humanidad?  |  Tecnolog\u00eda FT<\/span><\/div>\n<\/div>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/c64592ac-a62f-4e8e-b99b-08c869c83f4b\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de<\/p>\n","protected":false},"author":1,"featured_media":1198057,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[99,11180,6630,232218,1757,1067],"class_list":["post-1198056","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-con","tag-cuan","tag-deberiamos","tag-fatalistas","tag-respecto","tag-ser"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1198056","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1198056"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1198056\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1198057"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1198056"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1198056"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1198056"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}