Las figuras más importantes de inteligencia artificial se dispararon sobre los peligros de la tecnología que avanzó rápidamente en el Foro Económico Mundial esta semana, ya que el bombo giró en torno a un proyecto de infraestructura de IA de $ 500 mil millones promocionado por Donald Trump.
Los pioneros de AI, incluido el jefe de Google Deepmind, Sir Demis Hassabis, el cofundador antrópico Dario Amodei y el científico informático de “Padrino de AI”, Yoshua Bengio, usaron la reunión en Davos para reiterar advertencias estrechas sobre las amenazas de IA, como intereses comerciales y geopolíticos de rival. .
Si bien Hassabis reconoció que el “genio no se puede volver a colocar en la botella”, dijo la inteligencia general artificial, cuando las computadoras superan las capacidades cognitivas humanas, podría amenazar la civilización si se queda fuera de control o es secuestrada por malos actores. Este es particularmente el caso con modelos de idiomas grandes que son “de código abierto” y accesibles por todos.
“Aquí hay mucho más en juego que solo empresas o productos”, dijo el ganador del Premio Nobel en una entrevista con el Financial Times. “[It’s] El futuro de la humanidad, la condición humana y dónde queremos ir como sociedad “.
Amodei, cuya nueva empresa hace el chatbot Claude y está respaldado por Google y Amazon, dijo que estaba preocupado por los gobiernos autoritarios que usaban IA y que “estaba muy preocupado por los escenarios de 1984, o peor”.
“La ciencia no sabe cómo podemos controlar las máquinas que están incluso en nuestro nivel de inteligencia, y lo que es peor si son más inteligentes que nosotros”, agregó Bengio durante un panel. “Hay personas que dicen: ‘No te preocupes, lo resolveremos’. Pero si no lo descubrimos, ¿entiendes las consecuencias?
Su postura fue criticada como hipócrita por Yann Lecun, Jefe Científico de AI de Meta, que ha gastado miles de millones en desarrollar un LLM de código abierto llamada LLAMA. Dijo que tales preocupaciones estaban desmentidas por la feroz competencia de sus rivales para construir y vender los mejores modelos.
“Yoshua y Dario han hecho opiniones contra el código abierto y eso es realmente muy peligroso”, dijo en una entrevista. “Los obstáculos para la distribución de código abierto conducirían a la captura regulatoria de algunos jugadores, ya sea de la costa oeste de los Estados Unidos o China. . .[putting]poder en manos de un pequeño número de personas.
“Es muy extraño de personas como Dario. Nos conocimos ayer, donde dijo que los beneficios y los riesgos de la IA están aproximadamente en el mismo orden de magnitud, y dije: ‘Si realmente crees esto, ¿por qué sigues trabajando en AI?’ “, Agregó Lecun. “Así que creo que es un poco de dos caras en esto”.
Mientras que los científicos e ingenieros debatieron la recompensa de riesgos de la IA, los ejecutivos de negocios mostraron entusiasmo sin restricciones por la tecnología.
“No hay contrarios”, dijo Ervin Tu, presidente del grupo de inversión tecnológica holandesa Prosus. “Si aprecia lo que pueden hacer los grandes modelos y agentes de idiomas capacitados en ellos, sería difícil como humano no concluir que son transformadores y que serán increíblemente perjudiciales en todas las industrias”.
El miércoles, la atmósfera febril fue cobrada por Operai, Softbank y Oracle anunciando una empresa conjunta de infraestructura de IA de AI de $ 500 mil millones llamada “Stargate”.
Trump fue el anfitrión de sus directores ejecutivos, Sam Altman, Masayoshi Son y Larry Ellison, en la Oficina Oval el martes, antes de firmar órdenes ejecutivas de esta semana que eliminarían muchas barandillas en torno al desarrollo de la tecnología. El nuevo presidente de los Estados Unidos dijo que los movimientos asegurarían la primacía estadounidense en la tecnología.
“En OpenAi, creemos que la infraestructura es el destino”, dijo la directora financiera de Operai, Sarah Friar. “[Stargate] se trata más de cómputo. Más cómputo construye mejores modelos. Mejores modelos responden problemas más complejos y ofrecen más beneficios para las personas y las empresas “.
Stargate dominó el debate en Davos por el resto de la semana, y muchos incluyen a Elon Musk llevando a su sitio social del sitio X para cuestionar cómo el trío financiaría los vastos gastos prometidos.
El FT informó el viernes que Stargate aún no ha asegurado los fondos que requiere, no recibirá ningún financiamiento del gobierno y solo servirá Openai una vez completado. Hasta ahora, SoftBank y OpenAi tienen la intención de presentar más de $ 15 mil millones cada uno para el proyecto, con la esperanza de aumentar una combinación de capital de sus patrocinadores y deuda existentes para financiar Stargate.
La nueva empresa también fue tomada como la última evidencia de una fisura en la relación entre Altman y la directora ejecutiva de Microsoft, Satya Nadella, y su principal ejecutivo de IA Mustafa Suleyman, el ex cofundador de DeepMind que dejó su propia startup y se unió a Microsoft a principios del año pasado.
“Las tensiones que surgieron entre Mustafa Suleyman y Sam Altman en Davos el año pasado fueron solo el comienzo”, dijo el presidente ejecutivo de Salesforce, Marc Benioff, que compite con Microsoft en la venta de agentes con IA a las empresas.
“Microsoft ahora está acelerando su propio desarrollo de IA. . . Este patrón refleja la historia de Microsoft con sus ‘socios’ “, agregó Benioff. “Esto podría marcar el principio del fin de la relación, por lo que es crítico que OpenAI se expanda a otras plataformas rápidamente”.
“Marc no tiene idea de lo que está hablando”, dijo el portavoz de Microsoft, Frank Shaw.
Microsoft ha invertido casi $ 14 mil millones en OpenAI desde 2019 y, a cambio, negoció los derechos sobre su propiedad intelectual y es su proveedor exclusivo de computación en la nube. Pero el último acuerdo fue finalizado junto con el anuncio de Stargate.
En Davos, Nadella también arrojó dudas sobre las promesas de gastos de Stargate y promocionó los $ 80 mil millones planeados de Microsoft en gastos de capital.
“Todo lo que sé es que soy bueno para mis $ 80 mil millones”, dijo, más tarde respondiendo Para Musk en la plataforma de redes sociales X: “¡Y todo este dinero no se trata de promocionar la IA, sino que se trata de construir cosas útiles para el mundo real!”
Stargate es solo el último ejemplo de una carrera armamentista de infraestructura para los centros de datos en los Estados Unidos, ya que se prepara para el próximo tramo del auge económico de la IA. El XAI de Musk construyó una supercomputadora llamada “Coloso” que contiene 100,000 chips Nvidia interconectados en solo tres meses el año pasado y se ha comprometido a expandir el número 10 veces.
Blackrock y Microsoft se están preparando para lanzar un fondo de inversión de IA de AI de $ 30 mil millones para construir centros de datos y proyectos de energía para satisfacer las crecientes demandas derivadas del sector tecnológico. El viernes, el jefe de Meta Mark Zuckerberg dijo que la compañía gastaría entre $ 60 mil millones- $ 65 mil millones en infraestructura de capital este año mientras expandía sus equipos de IA.
“He tenido reuniones de clientes sin parar, en todos los sectores. No creo que haya un solo CEO con el que haya hablado con quién no sabe que necesitan implementar IA “, dijo el fraile de OpenAi. “La IA no está solo en la agenda; Es la agenda. Ya no es solo un concepto abstracto o una visión futurista. Está aquí “.
Informes adicionales de Harriet Agnew en Davos
About the Author
