El “padrino de la IA” deja Google y advierte de los peligros de la tecnología

Geoffrey Hinton, apodado el ” padrino de la inteligencia artificial “, ha decidido renunciar a Google después de pasar más de una década allí. Ahora quiere hacer sonar la alarma sobre los riesgos que plantea esta tecnología.

Un académico reconocido por sus pares

El investigador de 75 años estuvo en las filas de la firma Mountain View desde 2012, tras la adquisición de una empresa que había creado con dos de sus alumnos; uno de ellos es ahora el director científico de OpenAI. Habían desarrollado una red neuronal que, tras analizar miles de fotos, aprendió a identificar objetos comunes como perros, gatos y flores. Este trabajo condujo a la creación de modelos como ChatGPT y Google Bard..

Particularmente reconocido en el campo de la IA, Hinton fue nombrado Ganador del Premio Turing 2018 por sus avances conceptuales y técnicos. Preguntado por el New York Timesadmite ahora el investigador tener remordimientos&nbsp: “ Me consuelo con la excusa de siempre: si no lo hubiera hecho yo, lo habría hecho otro. “. Es por ello que tomó la decisión de dejar Google.

“ me fui para poder hablar sobre los peligros de la IA independientemente del impacto en Google. Google actuó de manera muy responsable “, detalla en un tuit. Su último cargo fue el de Vicepresidente y Jefe de Ingeniería, reportando a Jeff Dean en Google Brain.

En el NYT de hoy, Cade Metz insinúa que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado de forma muy responsable.

— Geoffrey Hinton (@geoffreyhinton) 1 de mayo de 2023

Los peligros que plantea la fiebre de la IA generativa

Los temores de Hinton se aceleraron cuando Microsoft lanzó el nuevo Bing, que incorporó IA generativa. En estado de alerta ante un serio competidor de su motor de búsqueda, Google se puso a toda marcha para tomar represalias, provocando una carrera frenética en el campo. Recientemente, la compañía también anunció la fusión de sus dos unidades especializadas en IA para estimular la investigación.

Según el investigador, una competencia tan feroz podría ser Imparablelo que daría lugar a una proliferación de imágenes y textos falsificados con la imposibilidad de saber Lo que es verdad ». A más largo plazo, teme que la IA elimine muchos trabajos rutinarios, y no descarta la posibilidad de un peligro real para la humanidadcuando la tecnología comienza a escribir y ejecutar su propio código.

“ La idea de que este hardware podría volverse más inteligente que las personas, creían algunas personas. Pero la mayoría de la gente pensó que era un error. Y pensé que estaba lejos de ser el caso. Pensé que era en 30 a 50 años o más. Por supuesto, ya no pienso eso. “, se preocupa en las líneas del New York Times.

Varios llamados a regular la IA

Cada vez más investigadores comparten sus preocupaciones sobre el desarrollo de la IA. El CEO de Google, Sundar Pichai, incluso ha pedido una fuerte regulación de la tecnología, al igual que el CTO de OpenAI, Muri Murati, y el CEO Sam Altman. Paralelamente, una carta firmada por miles de personas pedía la suspensión temporal de la investigación en sistemas avanzados de IA.

A pesar de esto, la IA generativa se está introduciendo gradualmente en muchos productos y los gigantes de Silicon Valley están trabajando incansablemente en su desarrollo. A través de su enfoque, Geoffrey Hinton espera generar conciencia para avanzar hacia un despliegue mucho más medido de la inteligencia artificial.