Inteligencia artificial (IA) de libre acceso donde todos pueden ver debajo del capó. Ese fue el ideal por el cual se fundó un nuevo club en San Francisco en 2015: OpenAI, un laboratorio para la IA sin fines de lucro.
“Todo lo que desarrolle el grupo estará al alcance de todos”, dijo el cofundador Sam Altman en su momento al periodista de la revista de tecnología Steven Levy cableado. Los fundadores presentaron el laboratorio como una organización sin fines de lucro con una misión: combatir el abuso de la IA. Altman: “Debido a que no somos una empresa con fines de lucro como Google, podemos enfocarnos en algo más que enriquecer a nuestros accionistas, que es lo que creemos que es mejor para el futuro de la humanidad”.
Siete años después, OpenAI es el laboratorio de IA más destacado del mundo. “Primero tuvimos Internet. Luego vino el iPhone. Ahora está ChatGPT”, tuiteó Alexander Klöpping a principios de diciembre sobre ChatGPT, el chatbot de OpenAI lanzado a finales de noviembre. Y no es el único que ve la introducción de este modelo de lenguaje como un acontecimiento importante.
El mundo entero se asombra con el sistema de IA que escribe un ensayo sobre la Crisis de los Misiles en Cuba o un episodio de una sitcom con la mayor de las facilidades. Responde sin esfuerzo a todo tipo de preguntas, incluso sobre sí mismo, en un lenguaje humano aparentemente natural. De acuerdo a Los New York Times ChatGPT podría ser el sucesor de los motores de búsqueda. Además de ofrecer sugerencias para regalos de Navidad, puede “brindar información en oraciones claras y simples, en lugar de una lista de enlaces de Internet, y explicar conceptos de una manera que las personas puedan entender fácilmente”.
Lea también: ¿Puedes dejar que este chatbot súper inteligente haga tu tarea y qué nota el maestro?
En una semana, ChatGPT ya tenía un millón de usuarios. Y esa es la segunda vez en menos de un año que una aplicación de OpenAI se convierte en un éxito. Porque en el verano hubo un gran revuelo en torno al revolucionario generador de imágenes DALL-E 2, con el que cualquiera puede crear “arte” instantáneo. El sistema, cuyo nombre es un guiño a Salvador Dalí, no teme a un comando como ‘Dibuja un caballo en la luna al estilo de Andy Warhol’, sino que también puede generar imágenes realistas que parecen fotografías.
OpenAI fue fundado por un grupo de inversionistas ricos de Silicon Valley, quienes colectivamente invirtieron más de mil millones de dólares en el laboratorio. Entre ellos: Elon Musk (Tesla, Space X), Sam Altman de Y Combinator (la aceleradora de startups de Airbnb y DropBox, entre otras) y el fundador de PayPal, Peter Thiel.
“Creo que la mejor defensa contra el mal uso de la IA es empoderar a tantas personas como sea posible para que usen la IA”, dijo Musk en el artículo de la revista tecnológica antes mencionado. cableado. “Si todos tienen el poder de la IA, no puede haber un superpoder de la IA en un individuo o en un pequeño grupo de personas”.
De acuerdo a el sitio web de OpenAI el objetivo sigue siendo “garantizar que la Inteligencia General Artificial beneficie a toda la humanidad”. Pero en la medida en que esa misión fue sincera, los críticos dicen que queda poco de ella.
ideales perdidos
En 2019 se cambió la estructura sin ánimo de lucro de OpenAI por un modelo híbrido, en el que ahora se gestionaría una empresa comercial desde la organización sin ánimo de lucro. Ese mismo año, Microsoft invirtió mil millones de dólares en OpenAI y obtuvo la licencia exclusiva del modelo de lenguaje GPT3, el antecesor de ChatGPT.
“Veo OpenAI con una mezcla de admiración y preocupación”, dice Jelle Zuidema, investigadora de tecnología del lenguaje (UvA). “Está claro que hay muy buenos técnicos trabajando allí y que hay una cultura de empresa en la que pueden florecer nuevas ideas creativas. Pero, ¿dónde están los ideales con los que se fundaron: la tecnología abierta, un contrapeso a las Big Tech?”. Son difíciles de encontrar, ve Zuidema. “La tecnología subyacente a sus productos tiene un escrutinio muy limitado por parte de científicos independientes. Y GPT3 está financiado y comercializado por el gigante tecnológico Microsoft”.
OpenAI no es lo que parece, señaló Karen Hao en 2020 Revisión de tecnología del MIT. Al periodista se le permitió visitar el laboratorio de IA, ubicado en un edificio histórico de San Francisco que dice PIONEER BUILDING en letras grandes. La Pioneer Truck Factory estuvo una vez ubicada aquí, ahora la IA está siendo pionera en pasillos con nombres como ‘A Space Odyssey’. OpenAI comparte el edificio pionero y la cantina con otro laboratorio tecnológico: Neuralink, la compañía de Elon Musk que desarrolla chips cerebrales.
“Lo que la compañía está adoptando públicamente es inconsistente con la forma en que opera a puerta cerrada”, escribió Hao. “Con el tiempo, ha permitido un desarrollo en el que sus ideales fundacionales de transparencia, apertura y colaboración se han visto erosionados por la feroz competitividad y la creciente presión para encontrar más y más financiamiento”.
Lea también: Si la computadora mejora con el lenguaje que nosotros
“¿Qué hay de abierto en OpenAI?”, pregunta retóricamente la filósofa tecnológica Marleen Stikker, directora de De Waag. „ El nombre sugiere que se trata de conocimiento colectivo, pero no es así. El software y los modelos no están abiertos para investigación o reutilización. Los científicos no pueden hacer mucho con él, porque los sistemas son demasiado grandes”.
Los ideales promovidos por los fundadores parecen estar reñidos con otras ambiciones del laboratorio de IA. Por ejemplo, el desarrollo de Large Language Models (LLM), los gigantescos modelos de lenguaje como ChatGPT que han ‘leído’ millones de textos y pueden realizar las más diversas tareas lingüísticas sobre la base de ese conocimiento, es extremadamente costoso. Una vuelta de entrenamiento de GPT3 cuesta 12 millones de dolares, calculó un emprendedor tecnológico basado en la información de consumo de energía del modelo de lenguaje propio de OpenAI. Por lo tanto, se necesita mucho dinero de los nuevos inversores para mantenerse a la vanguardia de los LLM, lo que dificulta que siga siendo una organización sin fines de lucro.
Demasiado grande para controlar
Además, la tendencia del auge de los LLM es difícil de conciliar con la transparencia. El aumento de escala hace que los modelos funcionen mejor: cuanto más texto leen y más poder de cómputo tienen, mejor se vuelven, pero eso dificulta la transparencia: una base de datos de millones de textos es demasiado grande para verificar imprecisiones y sesgos.
Y luego está la ambición de OpenAI de ser el primero en lograr ‘AGI’: Inteligencia General Artificial, o IA que puede realizar las mismas tareas intelectuales que un cerebro humano. En este sentido, el laboratorio compite con otras empresas tecnológicas y, según los críticos, esta carrera se interpone en el camino del desarrollo seguro y responsable de la IA. “Si las empresas supieran que todos están compitiendo con la última IA a una velocidad peligrosa”, dijo el entonces estudiante de doctorado Miles Brundage. en 2015 contra Wired“entonces pueden estar menos inclinados a ofrecer garantías para una IA segura”.
Brundage se unió a OpenIA en 2018, y no es el único hombre blanco que trabaja allí. La falta de diversidad se aplica a toda la industria tecnológica, pero en el caso de OpenAI es más difícil de conciliar con la afirmación de querer hacer IA para toda la humanidad.
“Incluso si OpenAI tuviera las mejores intenciones”, dice la profesora Tamar Sharon, quien dirige el grupo de investigación interdisciplinario Digitalización y Sociedad en la Universidad de Radboud, “todavía no representan a la humanidad de ninguna manera. OpenAI sirve a la agenda de sus inversores: los multimillonarios de Silicon Valley impulsan la tecnología como la solución a todos los problemas de la humanidad. Su propia tecnología, es decir, la que nos venden”.
Lea también: Manténgase alerta mientras se desdibuja la línea entre lo real y la IA
Los ideales de OpenAI son increíbles, dice Sharon. “OpenAI fue fundado por un grupo de multimillonarios a partir de su ideología de Altruismo efectivo, EA, que también incluye al cripto multimillonario caído Sam Bankman-Fried. El movimiento EA quiere salvar a la humanidad de un apocalipsis en el que una máquina con inteligencia humana destruye a la humanidad”.
Sharon está preocupada por la influencia de estos ricos partidarios del Altruismo Efectivo en AI. “Están hablando sobre”IA beneficiosa‘ que podría hacerse cargo del trabajo humano en el futuro, pero por ahora gran parte de la IA está impulsada por el trabajo humano en países con salarios bajos: decenas de miles de trabajadores mal pagados que investigan los conjuntos de datos. Y los modelos de lenguaje grande como ChatGPT tienen una enorme huella ecológica: consumen mucha energía. La tendencia actual en el terreno de la IA es hacer que estos LLM sean cada vez más grandes, porque eso los hace funcionar mejor. Lo que eso significa para el planeta no está nada claro beneficioso para la humanidad.”
Conocimiento colectivo
El modelo de ingresos de OpenAI ahora también se está aclarando. El mundo puede conocer DALL-E 2 y ChatGPT de forma gratuita, pero después de eso, tenemos que pagar por ello. Cuando te quedas sin créditos gratis, tienes que comprar nuevos para seguir usando la aplicación. El laboratorio de IA también obtendrá dinero de otras empresas tecnológicas que quieran crear aplicaciones con tecnología OpenAI. El mes pasado, una presentación filtrada a inversores reveló que OpenAI espera generar 200 millones de dólares en ingresos para 2023. Y en 2024 mil millones.
Según Marleen Stikker, los ideales de OpenAI han sido “una cortina de humo” para los intereses comerciales de los inversores desde el principio. Al filósofo tecnológico no le gusta dejar el destino de la humanidad en manos de los multimillonarios de Silicon Valley. “Cuidado cuando hablan de ‘humanidad’, porque ellos mismos deciden lo que quieren decir con eso. Por lo general, no se refiere a la humanidad aquí y ahora, sino a la del futuro, tal como ellos mismos lo imaginan”.