\n<\/p>\n
Cuando Geoffrey Hinton tuvo una objeci\u00f3n \u00e9tica a que su empleador, Google, trabajara con el ej\u00e9rcito estadounidense en 2018, no se uni\u00f3 a las protestas p\u00fablicas ni puso su nombre en la carta de queja abierta firmada por m\u00e1s de 4000 de sus colegas.<\/p>\n
En cambio, solo habl\u00f3 con Sergey Brin, cofundador de Google. \u201cDijo que tambi\u00e9n estaba un poco molesto por eso. Y entonces no lo persiguen\u201d, dijo Hinton en una entrevista en ese momento. <\/p>\n
El incidente es un s\u00edmbolo de la tranquila influencia de Hinton en el mundo de la inteligencia artificial. El profesor de 75 a\u00f1os es venerado como uno de los “padrinos” de la IA debido a su trabajo formativo en el aprendizaje profundo, un campo de la IA que ha impulsado los enormes avances que se est\u00e1n produciendo en el sector. <\/p>\n
Pero la an\u00e9cdota tambi\u00e9n refleja la lealtad de Hinton, seg\u00fan quienes lo conocen bien. Por principio, nunca expres\u00f3 p\u00fablicamente quejas corporativas, \u00e9ticas o de otro tipo. <\/p>\n
Fue esta creencia la que lo llev\u00f3 a renunciar a su cargo de vicepresidente y compa\u00f1ero de ingenier\u00eda en Google la semana pasada, para poder hablar con m\u00e1s libertad sobre sus crecientes temores sobre los riesgos de la IA para la humanidad. <\/p>\n
Yoshua Bengio, su antiguo colaborador y amigo, que gan\u00f3 el Premio Turing junto con Hinton y Yann LeCun en 2018, dijo que hab\u00eda visto venir la renuncia. \u201cPodr\u00eda haberse quedado en Google y hablar, pero su sentido de la lealtad es tal que no lo har\u00eda\u201d, dijo Bengio. <\/p>\n
La renuncia de Hinton sigue a una serie de lanzamientos innovadores de IA en los \u00faltimos seis meses, comenzando con ChatGPT de OpenAI respaldado por Microsoft en noviembre y el propio chatbot de Google, Bard, en marzo. <\/p>\n
Hinton expres\u00f3 su preocupaci\u00f3n de que la carrera entre Microsoft y Google impulsar\u00eda el desarrollo de la IA sin las medidas de protecci\u00f3n y las regulaciones adecuadas.<\/p>\n
\u201cCreo que Google fue muy responsable para empezar\u201d, dijo en un discurso en un evento de EmTech Digital el mi\u00e9rcoles, luego de que se hiciera p\u00fablica su renuncia. \u201cUna vez que OpenAI hab\u00eda construido cosas similares usando . . . dinero de Microsoft, y Microsoft decidi\u00f3 ponerlo ah\u00ed, entonces Google no ten\u00eda muchas opciones. Si vas a vivir en un sistema capitalista, no puedes evitar que Google compita con Microsoft\u201d.<\/p>\n
Desde la d\u00e9cada de 1970, Hinton ha sido pionera en el desarrollo de \u201credes neuronales\u201d, tecnolog\u00eda que intenta imitar el funcionamiento del cerebro. Ahora sustenta la mayor\u00eda de las herramientas y productos de IA que usamos hoy en d\u00eda, desde Google Translate y Bard, hasta ChatGPT y autom\u00f3viles aut\u00f3nomos.<\/p>\n
Pero esta semana, reconoci\u00f3 los temores sobre su r\u00e1pido desarrollo, lo que podr\u00eda provocar que la informaci\u00f3n err\u00f3nea inunde la esfera p\u00fablica y que la IA usurpe m\u00e1s trabajos humanos de lo previsto.<\/p>\n
\u201cMi preocupaci\u00f3n es que [make] los ricos m\u00e1s ricos y los pobres m\u00e1s pobres. Mientras haces eso. . . la sociedad se vuelve m\u00e1s violenta\u201d, dijo Hinton. \u201cEsta tecnolog\u00eda que deber\u00eda ser maravillosa. . . se est\u00e1 desarrollando en una sociedad que no est\u00e1 dise\u00f1ada para usarlo para el bien de todos\u201d. <\/p>\n
Hinton tambi\u00e9n hizo sonar la alarma sobre las amenazas a largo plazo que plantean los sistemas de inteligencia artificial para los humanos, si se le da demasiada autonom\u00eda a la tecnolog\u00eda. Siempre hab\u00eda cre\u00eddo que este riesgo existencial estaba muy lejos, pero recientemente recalibr\u00f3 su pensamiento sobre su urgencia. <\/p>\n
\u201cEs bastante concebible que la humanidad sea una fase pasajera en la evoluci\u00f3n de la inteligencia\u201d, dijo. La decisi\u00f3n de Hinton de abandonar Google despu\u00e9s de una d\u00e9cada fue impulsada por un colega acad\u00e9mico que lo convenci\u00f3 de hablar sobre esto, agreg\u00f3. <\/p>\n
Nacido en Londres, Hinton proviene de un ilustre linaje de cient\u00edficos. Es tataranieto de los matem\u00e1ticos brit\u00e1nicos Mary y George Boole, el \u00faltimo de los cuales invent\u00f3 la l\u00f3gica booleana, la teor\u00eda que subyace a la inform\u00e1tica moderna. <\/p>\n
Como psic\u00f3logo cognitivo, el trabajo de Hinton en IA tiene como objetivo aproximarse a la inteligencia humana, no solo para construir tecnolog\u00eda de IA sino para iluminar el funcionamiento de nuestros propios cerebros. <\/p>\n
Stuart Russell, profesor de inteligencia artificial en la Universidad de California, Berkeley, un compa\u00f1ero acad\u00e9mico de Hinton, dijo que su experiencia significaba que “no era la persona m\u00e1s matem\u00e1tica que encontrar\u00e1s en la comunidad de aprendizaje autom\u00e1tico”. <\/p>\n
Se\u00f1al\u00f3 el gran avance de Hinton en 1986, cuando public\u00f3 un art\u00edculo sobre una t\u00e9cnica llamada “propagaci\u00f3n hacia atr\u00e1s”, que mostraba c\u00f3mo el software de computadora pod\u00eda aprender con el tiempo. <\/p>\n
\u201cClaramente fue un art\u00edculo seminal\u201d, dijo Russell. \u201cPero \u00e9l no deriv\u00f3 el . . . gobernar como lo har\u00eda un matem\u00e1tico. Us\u00f3 su intuici\u00f3n para descubrir un m\u00e9todo que funcionar\u00eda\u201d.<\/p>\n
Hinton no siempre ha sido abierto en p\u00fablico sobre sus puntos de vista \u00e9ticos, pero en privado los ha dejado claros. <\/p>\n
En 1987, cuando era profesor asociado en la Universidad Carnegie Mellon de Estados Unidos, decidi\u00f3 dejar su puesto y emigrar a Canad\u00e1. <\/p>\n
Una de las razones que dio, seg\u00fan Bengio, fue \u00e9tica: le preocupaba el uso de la tecnolog\u00eda, en particular la IA, en la guerra y gran parte de su financiaci\u00f3n proced\u00eda del ej\u00e9rcito estadounidense. <\/p>\n
\u201cQuer\u00eda sentirse bien con los fondos que recibi\u00f3 y el trabajo que estaba haciendo\u201d, dijo Bengio. \u201c\u00c9l y yo compartimos valores sobre la sociedad. Que los humanos importan, que la dignidad de todos los humanos es esencial. Y todos deber\u00edan beneficiarse del progreso que est\u00e1 creando la ciencia\u201d.<\/p>\n