Cuando Geoffrey Hinton tuvo una objeción ética a que su empleador, Google, trabajara con el ejército estadounidense en 2018, no se unió a las protestas públicas ni puso su nombre en la carta de queja abierta firmada por más de 4000 de sus colegas.
En cambio, solo habló con Sergey Brin, cofundador de Google. “Dijo que también estaba un poco molesto por eso. Y entonces no lo persiguen”, dijo Hinton en una entrevista en ese momento.
El incidente es un símbolo de la tranquila influencia de Hinton en el mundo de la inteligencia artificial. El profesor de 75 años es venerado como uno de los «padrinos» de la IA debido a su trabajo formativo en el aprendizaje profundo, un campo de la IA que ha impulsado los enormes avances que se están produciendo en el sector.
Pero la anécdota también refleja la lealtad de Hinton, según quienes lo conocen bien. Por principio, nunca expresó públicamente quejas corporativas, éticas o de otro tipo.
Fue esta creencia la que lo llevó a renunciar a su cargo de vicepresidente y compañero de ingeniería en Google la semana pasada, para poder hablar con más libertad sobre sus crecientes temores sobre los riesgos de la IA para la humanidad.
Yoshua Bengio, su antiguo colaborador y amigo, que ganó el Premio Turing junto con Hinton y Yann LeCun en 2018, dijo que había visto venir la renuncia. “Podría haberse quedado en Google y hablar, pero su sentido de la lealtad es tal que no lo haría”, dijo Bengio.
La renuncia de Hinton sigue a una serie de lanzamientos innovadores de IA en los últimos seis meses, comenzando con ChatGPT de OpenAI respaldado por Microsoft en noviembre y el propio chatbot de Google, Bard, en marzo.
Hinton expresó su preocupación de que la carrera entre Microsoft y Google impulsaría el desarrollo de la IA sin las medidas de protección y las regulaciones adecuadas.
“Creo que Google fue muy responsable para empezar”, dijo en un discurso en un evento de EmTech Digital el miércoles, luego de que se hiciera pública su renuncia. “Una vez que OpenAI había construido cosas similares usando . . . dinero de Microsoft, y Microsoft decidió ponerlo ahí, entonces Google no tenía muchas opciones. Si vas a vivir en un sistema capitalista, no puedes evitar que Google compita con Microsoft”.
Desde la década de 1970, Hinton ha sido pionera en el desarrollo de “redes neuronales”, tecnología que intenta imitar el funcionamiento del cerebro. Ahora sustenta la mayoría de las herramientas y productos de IA que usamos hoy en día, desde Google Translate y Bard, hasta ChatGPT y automóviles autónomos.
Pero esta semana, reconoció los temores sobre su rápido desarrollo, lo que podría provocar que la información errónea inunde la esfera pública y que la IA usurpe más trabajos humanos de lo previsto.
“Mi preocupación es que [make] los ricos más ricos y los pobres más pobres. Mientras haces eso. . . la sociedad se vuelve más violenta”, dijo Hinton. “Esta tecnología que debería ser maravillosa. . . se está desarrollando en una sociedad que no está diseñada para usarlo para el bien de todos”.
Hinton también hizo sonar la alarma sobre las amenazas a largo plazo que plantean los sistemas de inteligencia artificial para los humanos, si se le da demasiada autonomía a la tecnología. Siempre había creído que este riesgo existencial estaba muy lejos, pero recientemente recalibró su pensamiento sobre su urgencia.
“Es bastante concebible que la humanidad sea una fase pasajera en la evolución de la inteligencia”, dijo. La decisión de Hinton de abandonar Google después de una década fue impulsada por un colega académico que lo convenció de hablar sobre esto, agregó.
Nacido en Londres, Hinton proviene de un ilustre linaje de científicos. Es tataranieto de los matemáticos británicos Mary y George Boole, el último de los cuales inventó la lógica booleana, la teoría que subyace a la informática moderna.
Como psicólogo cognitivo, el trabajo de Hinton en IA tiene como objetivo aproximarse a la inteligencia humana, no solo para construir tecnología de IA sino para iluminar el funcionamiento de nuestros propios cerebros.
Stuart Russell, profesor de inteligencia artificial en la Universidad de California, Berkeley, un compañero académico de Hinton, dijo que su experiencia significaba que «no era la persona más matemática que encontrarás en la comunidad de aprendizaje automático».
Señaló el gran avance de Hinton en 1986, cuando publicó un artículo sobre una técnica llamada «propagación hacia atrás», que mostraba cómo el software de computadora podía aprender con el tiempo.
“Claramente fue un artículo seminal”, dijo Russell. “Pero él no derivó el . . . gobernar como lo haría un matemático. Usó su intuición para descubrir un método que funcionaría”.
Hinton no siempre ha sido abierto en público sobre sus puntos de vista éticos, pero en privado los ha dejado claros.
En 1987, cuando era profesor asociado en la Universidad Carnegie Mellon de Estados Unidos, decidió dejar su puesto y emigrar a Canadá.
Una de las razones que dio, según Bengio, fue ética: le preocupaba el uso de la tecnología, en particular la IA, en la guerra y gran parte de su financiación procedía del ejército estadounidense.
“Quería sentirse bien con los fondos que recibió y el trabajo que estaba haciendo”, dijo Bengio. “Él y yo compartimos valores sobre la sociedad. Que los humanos importan, que la dignidad de todos los humanos es esencial. Y todos deberían beneficiarse del progreso que está creando la ciencia”.
En 2012, Hinton y sus dos estudiantes de posgrado en la Universidad de Toronto, incluido Ilya Sutskever, ahora cofundador de OpenAI, lograron un gran avance en el campo de la visión artificial. Construyeron redes neuronales que podían reconocer objetos en órdenes de magnitud de imágenes con mayor precisión que nunca antes. A partir de este trabajo fundaron su primera start-up, DNNresearch.
Su empresa, que no fabricaba ningún producto, se vendió a Google por 44 millones de dólares en 2013, después de una subasta competitiva que llevó a Baidu, Microsoft y DeepMind de China a ofertar para adquirir la experiencia del trío.
Desde entonces, Hinton ha pasado la mitad de su tiempo en Google y la otra mitad como profesor en la Universidad de Toronto.
Según Russell, a Hinton se le ocurren constantemente nuevas ideas y se prueban cosas nuevas. “Cada vez que tenía una idea nueva, decía al final de su charla: ‘Y este ¡así es como funciona el cerebro!’”
Cuando se le preguntó en el escenario si lamentaba el trabajo de su vida, dado que podría contribuir a la miríada de daños que había descrito, Hinton dijo que lo había estado pensando.
“Esta etapa de [AI] no era previsible. Y hasta hace muy poco pensaba que esta crisis existencial estaba muy lejos”, dijo. “Así que realmente no me arrepiento de lo que hago”.