Tendremos que aprender a vivir con máquinas que puedan pensar

Manténgase informado con actualizaciones gratuitas

Simplemente regístrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja de entrada.

Dos temas dominaron la reunión anual del Foro Económico Mundial en Davos la semana pasada: Donald Trump e inteligencia artificial. De los dos, este último fue el más interesante y casi seguro que más significativo. Mucha atención en la discusión se dedicó a Deepseek, la sorpresa china advenedora. Sin embargo, simplemente hemos aprendido que el conocimiento se extiende: ningún país va a monopolizar estas nuevas tecnologías. Esto ha sorprendido a los mercados. Con nuevas tecnologías, tales “sorpresas” no son sorprendentes. Pero no cambia la gran pregunta, que es lo que significa la inteligencia de la máquina avanzada para todos nosotros.

Los seres humanos son sociales e inteligentes. Esta combinación es su “aplicación asesina”. Les ha permitido dominar el planeta. La inteligencia humana inventó las tecnologías de propósito general que dieron forma al mundo, Desde el domestimiento del fuego hasta la creación de computadoras. Pero, con las computadoras que piensan, esto podría cambiar. Blaise Pascalel matemático y filósofo francés del siglo XVII dijo que “El hombre no es más que una caña, lo más débil en la naturaleza, pero es una caña de pensar.“¿Esa singularidad ahora está llegando a su fin?

En Davos, asistí a dos discusiones fascinantes sobre las recompensas y riesgos de los avances en la IA. Uno era una entrevista de Sir Demis Hassabiscofundador de Google Deepmind y receptor conjunto del Premio Nobel de Química, por Roula Khalaf, editor de The Ft. El otro era un entrevista de Dario amodeiFundador y CEO de Anthrope y autor de Máquinas de gracia amorosapor Zanny Minton BeddoesEditor de The Economist.

La entrevista con Hassabis subrayó los recientes avances en nuestra capacidad para realizar análisis científicos, especialmente en biología. Más de 2 millones de investigadores usan Alfafolddijo, se desarrolló el programa DeepMind. “Doblamos todas las proteínas conocidas por la ciencia, las 200 mn. . . [T]La regla general es que un estudiante de doctorado se necesita todo su doctorado en encontrar la estructura de una proteína. Entonces, 200 mn habrían tomado mil millones de años de tiempo de doctorado. Y acabamos de darle todo al mundo, gratis “. Esto, elaboró, es “ciencia a velocidad digital”. La posibilidad que se ha abierto ante nosotros, entonces, es de una gran aceleración en el progreso médico. De hecho, podríamos tener los próximos 50 a 100 años de progreso normal en cinco a diez años.

En términos generales, argumentó AModei, podemos imaginar a AI como “un país de genios en un centro de datos“, Uno que los chinos podrían haber hecho aún más baratos que antes. ¿Sin embargo, son estos verdaderos genios? Mi prueba sería si, dado el conocimiento de toda la física de hasta 1906, pero nada después, la IA podría producir la teoría general de la relatividad de Einstein.

Parece plausible que el impacto de tal capacidad de resolución de problemas, ya sea “genio” o no, sea notable. Podría, entre otras cosas, acelerar las mejoras en el conocimiento y, por lo tanto, el crecimiento de la productividad y la propagación de la prosperidad. Ambos son deseables. En las últimas décadas, los aumentos en la “productividad del factor total”, la mejor medida del progreso técnico, han sido modestos. Además, los grandes números aún viven en la pobreza extrema y, deprimentemente, El progreso se ha ralentizado.

Sin embargo, también es evidente que el progreso acelerado también podría crear dificultades. La estructura del mercado laboral podría cambiar masivamente, por ejemplo, con, en este caso, una fuerte caída en la demanda de trabajadores cuyo activo está capacitado, pero en gran medida rutinario, la inteligencia. Los pronósticos de tales efectos varían. Un 2023 papel Por Erik Brynjolfsson y Gabriel Unger señala que, como ha sido cierto a lo largo de la revolución informática, los efectos sobre la productividad pueden ser modestos. Sin embargo, esta vez podría ser diferente, con una alta productividad, pero correspondientemente grandes y perjudiciales cambios económicos y sociales. Una vez más, dependiendo de cómo responda la sociedad, la IA exitosa podría conducir al “tecnosfeudalismo”, con concentraciones aún mayores de riqueza. La invención de un gran número de nuevos tratamientos podría aumentar en gran medida los costos de la atención médica y también los costos de hacer frente a vidas muy extendidas, incluso si están en equilibrio, son más saludables. ¿Están las personas listas para vivir junto a sus grandes bisabuelos? Por lo tanto, las cosas aparentemente buenas pueden crear desafíos reales.

Más allá de esto, el desarrollo de la IA prevista crea grandes riesgos. ¿Cómo se controla su uso de actores deshonestos, incluidos estados hostiles, terroristas y asesinos en masa? ¿Qué juicios morales se permite que la IA haga en la guerra? ¿Cómo se controla el uso de IA en vigilancia? ¿”Big Brother” nos observará más para siempre? Nuevamente, ¿qué hacemos con respecto a la fabricación de falsificaciones y noticias falsas? ¿Cómo sobrevive a la libertad todas estas amenazas?

Hassabis es claro que necesitamos límites globales efectivos sobre el uso de IA. En una era de cooperación internacional rota y desprecio ante la idea misma de un “orden internacional basado en reglas”, ¿trabajarán juntos China y los Estados Unidos para que la IA sea segura? Parece poco probable, sobre todo porque tienen diferentes puntos de vista sobre cómo se deben usar tales tecnologías.

En 2015, escribí un generalmente escéptico artículo en el (modesto) impacto probable en la productividad de las nuevas tecnologías. Los próximos años finalmente podrían demostrar que estoy equivocado. Sin embargo, también noté que si nos estábamos acercando “la singularidad” – Inteligencia artificial que supera toda la inteligencia humana, todo debe cambiar.

Una de las grandes ideas en Frank Herbert’s Duna La serie es que en el pasado lejano (nuestro futuro) humanidad libró una yihad exitosa contra máquinas que piensan. A partir de entonces, los humanos tuvieron que volverse sobrehumanos. Un personaje principal explica que “los humanos habían establecido esas máquinas para usurpar nuestro sentido de belleza, nuestro selgo necesario, de los cuales hacemos juicios vivos. Naturalmente, las máquinas fueron destruidas “.

Esa preocupación podría resultar sabia. Pero soy realista: AI está fuera de la caja de Pandora.

[email protected]

Sigue a Martin Wolf con myft y Gorjeo