<\/svg><\/span><\/section>\n\n
Geoffrey Hinton fue un pionero de la inteligencia artificial. En 2012, Hinton y dos de sus estudiantes de posgrado en la Universidad de Toronto crearon una tecnolog\u00eda que se convirti\u00f3 en la base intelectual de los sistemas de inteligencia artificial que las empresas m\u00e1s grandes de la industria tecnol\u00f3gica creen que son la clave de su futuro.\n <\/p>\n
\n
Pero el lunes se uni\u00f3 oficialmente a un creciente coro de cr\u00edticos que dicen que esas empresas est\u00e1n peligrosamente involucradas en su agresiva campa\u00f1a para crear productos basados \u200b\u200ben IA generativa. Espec\u00edficamente, esta es la tecnolog\u00eda que impulsa a los chatbots populares como ChatGPT.\n <\/p>\n
\n
Hinton dijo que dejar\u00e1 su trabajo en Google, donde pas\u00f3 m\u00e1s de una d\u00e9cada y se ha convertido en una de las voces m\u00e1s respetadas en el campo, para poder hablar libremente sobre los riesgos de la IA. Parte de \u00e9l, dijo, ahora lamenta el trabajo de su vida.\n <\/p>\n
\n
“Me consuelo con la excusa com\u00fan: si no lo hubiera hecho yo, alguien m\u00e1s lo habr\u00eda hecho”, dijo Hinton durante una larga entrevista la semana pasada en el comedor de su casa en Toronto, a poca distancia de donde \u00e9l y sus alumnos experimentaron su avance.\n <\/p>\n
\n
El viaje de Hinton de pionero de la IA a agorero marca un momento notable para la industria de la tecnolog\u00eda en posiblemente su punto de inflexi\u00f3n m\u00e1s significativo en d\u00e9cadas. Los l\u00edderes de la industria tecnol\u00f3gica creen que los nuevos sistemas de inteligencia artificial podr\u00edan ser tan importantes como la introducci\u00f3n del navegador web a principios de la d\u00e9cada de 1990 y conducir a avances en campos que van desde la investigaci\u00f3n de medicamentos hasta la educaci\u00f3n.\n <\/p>\n
\n
Pero muchos expertos de la industria temen estar desatando algo peligroso en el mundo. La IA generativa ya puede ser una herramienta para la desinformaci\u00f3n. Pronto podr\u00eda suponer un riesgo para los puestos de trabajo. Y en alg\u00fan momento en el futuro, dicen los m\u00e1s preocupados, podr\u00eda representar un riesgo para la humanidad.\n <\/p>\n
\n
“Es dif\u00edcil imaginar c\u00f3mo se puede evitar que las fuerzas del mal lo usen para cosas malas”, dijo Hinton.\n <\/p>\n
\n
Despu\u00e9s de que la startup OpenAI de San Francisco lanzara una nueva versi\u00f3n de ChatGPT en marzo, m\u00e1s de mil l\u00edderes tecnol\u00f3gicos e investigadores firmaron una carta abierta pidiendo una moratoria de seis meses en el desarrollo de nuevos sistemas. Hicieron esto porque, en su opini\u00f3n, las tecnolog\u00edas de IA plantean “profundos riesgos para la sociedad y la humanidad”.\n <\/p>\n
\n
Unos d\u00edas despu\u00e9s, diecinueve l\u00edderes actuales y anteriores de la Asociaci\u00f3n para el Avance de la Inteligencia Artificial, una asociaci\u00f3n acad\u00e9mica de cuarenta a\u00f1os, publicaron su propia carta advirtiendo sobre los riesgos de la IA. Ese grupo inclu\u00eda a Eric Horvitz, director cient\u00edfico de Microsoft, que utiliza la tecnolog\u00eda OpenAI en una variedad de productos, incluido el motor de b\u00fasqueda Bing.\n <\/p>\n
\n
Hinton, a quien a menudo se hace referencia como “el padrino de la IA”, no firm\u00f3 ninguna de estas cartas y dijo que no criticar\u00eda p\u00fablicamente a Google ni a otras compa\u00f1\u00edas hasta que dejara su trabajo. El mes pasado, le dijo a la compa\u00f1\u00eda que renunciar\u00eda y el jueves habl\u00f3 por tel\u00e9fono con Sundar Pichai, director ejecutivo de la empresa matriz de Google, Alphabet. Se niega a discutir p\u00fablicamente los detalles de su conversaci\u00f3n con Pichai.\n <\/p>\n
\n
El cient\u00edfico jefe de Google, Jeff Dean, dijo en un comunicado: \u201cSeguimos comprometidos a adoptar un enfoque responsable de la IA. Estamos constantemente aprendiendo a comprender los riesgos emergentes al mismo tiempo que innovamos audazmente\u201d.\n <\/p>\n
\n red neuronal
\n
Hinton, un expatriado brit\u00e1nico de 75 a\u00f1os, es un acad\u00e9mico cuya carrera se ha visto impulsada por sus creencias personales sobre el desarrollo y uso de la IA. En 1972, un reci\u00e9n graduado de la Universidad de Edimburgo, Hinton abraz\u00f3 la idea de una red neuronal. Una red neuronal es un sistema matem\u00e1tico que aprende habilidades mediante el an\u00e1lisis de datos. En ese momento, pocos investigadores cre\u00edan en esto. Pero se convertir\u00eda en el trabajo de su vida.\n <\/p>\n
\n
En la d\u00e9cada de 1980, Hinton era profesor de ciencias de la computaci\u00f3n en la Universidad Carnegie Mellon, pero dej\u00f3 la universidad y se fue a Canad\u00e1 diciendo que era reacio a aceptar fondos del Pent\u00e1gono. Despu\u00e9s de todo, en ese momento, la mayor parte de la investigaci\u00f3n de IA en los Estados Unidos fue financiada por el Departamento de Defensa. Hinton se opone firmemente al uso de la IA en el campo de batalla, lo que describe como “soldados robot”.\n <\/p>\n
\n
En 2012, Hinton y dos de sus alumnos en Toronto, Ilya Sutskever y Alex Krishevsky, construyeron una red neuronal que pod\u00eda analizar miles de fotos y aprender a identificar objetos comunes, como flores, perros y autom\u00f3viles.\n <\/p>\n
\n
Luego, Google gast\u00f3 44 millones de d\u00f3lares para adquirir la empresa fundada por Hinton y sus dos alumnos. Su sistema condujo a la creaci\u00f3n de tecnolog\u00edas cada vez m\u00e1s poderosas, incluidos nuevos chatbots como ChatGPT y Google Bard. M\u00e1s tarde, Sutskever tambi\u00e9n se convirti\u00f3 en cient\u00edfico jefe de OpenAI. En 2018, Hinton y otros dos colaboradores de mucho tiempo recibieron el Premio Turing, tambi\u00e9n conocido como “el Premio Nobel en inform\u00e1tica”, por su trabajo en redes neuronales.\n <\/p>\n\n<\/source><\/source><\/picture>\nImagen REUTERS<\/span><\/figcaption><\/p>\n<\/figure>\n\n
Casi al mismo tiempo, Google, OpenAI y otras empresas comenzaron a construir redes neuronales que aprend\u00edan de cantidades masivas de texto digital. Hinton pens\u00f3 que era una forma poderosa para que las m\u00e1quinas entendieran y generaran lenguaje, pero que era inferior a la forma en que los humanos interactuaban con el lenguaje.\n <\/p>\n
\n
Cuando Google y OpenAI construyeron sistemas con cantidades mucho mayores de datos el a\u00f1o pasado, su opini\u00f3n cambi\u00f3. Todav\u00eda cre\u00eda que esos sistemas eran inferiores al cerebro humano en algunos aspectos, pero pensaba que eclipsaban la inteligencia humana en otros. “Tal vez lo que sucede en estos sistemas es en realidad mucho mejor que lo que sucede en el cerebro”.\n <\/p>\n
\n
A medida que las empresas mejoran sus sistemas de inteligencia artificial, se vuelven cada vez m\u00e1s peligrosos, dice. \u201cSolo mire c\u00f3mo era hace cinco a\u00f1os y c\u00f3mo es ahora\u201d, dijo sobre la tecnolog\u00eda de IA. \u201cToma la diferencia y luego extrapola eso al futuro. Eso es aterrador.\n <\/p>\n
\n Competencia entre gigantes tecnol\u00f3gicos
\n
Hasta el a\u00f1o pasado, dijo, Google actuaba como un “administrador adecuado” de la tecnolog\u00eda y ten\u00eda cuidado de no revelar nada que pudiera causar da\u00f1os. Pero ahora que Microsoft ha aumentado su motor de b\u00fasqueda Bing con un chatbot, un desaf\u00edo para el negocio principal de Google, Google est\u00e1 compitiendo para implementar el mismo tipo de tecnolog\u00eda. Los gigantes tecnol\u00f3gicos participan en una competencia que puede ser imposible de detener, dijo Hinton.\n <\/p>\n
\n
Su preocupaci\u00f3n inmediata es que Internet se inundar\u00e1 con fotos, videos y textos falsos, y que la persona promedio “ya no sabr\u00e1 qu\u00e9 es verdad”.\n <\/p>\n
\n
Tambi\u00e9n le preocupa que las tecnolog\u00edas de IA finalmente alteren el mercado laboral. Hoy en d\u00eda, los chatbots como ChatGPT a menudo complementan a los empleados humanos, pero pueden reemplazar a los asistentes legales, asistentes personales, traductores y otros que realizan tareas clave. \u201cAhora se quita todo el trabajo tedioso\u201d, dijo. \u201cPero puede quitar incluso m\u00e1s que eso\u201d.\n <\/p>\n
\n
Con el tiempo, le preocupa que las versiones futuras de la tecnolog\u00eda supongan una amenaza para la humanidad, ya que a menudo aprenden comportamientos inesperados a partir de la gran cantidad de datos que analizan. Esto se convierte en un problema, dijo, porque las personas y las empresas permiten que los sistemas de IA no solo generen su propio c\u00f3digo de computadora, sino que realmente ejecuten ese c\u00f3digo ellos mismos. Por ejemplo, Hinton teme que llegue el d\u00eda en que las armas verdaderamente aut\u00f3nomas, esos robots asesinos, se conviertan en realidad.\n <\/p>\n
\n
“La idea de que estas cosas en realidad podr\u00edan volverse m\u00e1s inteligentes que los humanos, apenas unas pocas personas lo cre\u00edan”, dijo. \u201cPero la mayor\u00eda de la gente pensaba que ese punto estaba muy lejos. Yo tambi\u00e9n pens\u00e9 lo mismo. Pens\u00e9 que tomar\u00eda de treinta a cincuenta a\u00f1os o incluso m\u00e1s. Por supuesto que ya no lo creo”.\n <\/p>\n
\n
Muchos otros expertos, incluidos muchos de sus estudiantes y colegas, dicen que esta amenaza es hipot\u00e9tica. Pero Hinton cree que la batalla entre Google y Microsoft y otros se convertir\u00e1 en una carrera global que no se detendr\u00e1, al menos no sin alg\u00fan tipo de regulaci\u00f3n global.\n <\/p>\n
\n
Pero eso puede ser imposible, dice Hinton. A diferencia de las armas nucleares, dice que no hay forma de saber si las empresas o los pa\u00edses est\u00e1n trabajando en secreto en la tecnolog\u00eda. La mejor esperanza es que los principales cient\u00edficos del mundo trabajen juntos en formas de dominar la tecnolog\u00eda. “No creo que deban ampliar esto m\u00e1s hasta que entiendan si pueden controlarlo”.\n <\/p>\n
\n
Hinton dijo que cit\u00f3 a Robert Oppenheimer, quien dirigi\u00f3 la investigaci\u00f3n de bombas nucleares de EE. UU., cuando la gente le pregunt\u00f3 c\u00f3mo pod\u00eda trabajar en una tecnolog\u00eda tan potencialmente peligrosa. \u201cCuando ves algo que t\u00e9cnicamente est\u00e1 tan bien armado, sigues adelante y simplemente lo haces\u201d.\n <\/p>\n
\n
Hinton ya no dice eso.\n <\/p>\n
\n \u00a9 El New York Times<\/sub>\n <\/p>\n\nLeer tambi\u00e9n<\/h3>\n<\/aside>\n<\/div>\n ttn-es-31<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Durante medio siglo, el pionero Geoffrey Hinton hizo de la tecnolog\u00eda detr\u00e1s de ChatGPT y otros sistemas de<\/p>\n","protected":false},"author":1,"featured_media":733668,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[6088,2954,25,8666,36,9205,43607],"class_list":["post-733667","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-advierte","tag-aterrador","tag-deja","tag-google","tag-los","tag-padrino","tag-peligros"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/733667","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=733667"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/733667\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/733668"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=733667"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=733667"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=733667"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}