Se está produciendo un cambio colosal en la inteligencia artificial, pero no es el que algunos pueden pensar. Si bien los sistemas avanzados de generación de lenguaje y los chatbots han dominado los titulares de las noticias, las empresas privadas de inteligencia artificial han afianzado silenciosamente su poder. Los desarrollos recientes significan que un puñado de individuos y corporaciones ahora controlan gran parte de los recursos y el conocimiento en el sector y, en última instancia, darán forma a su impacto en nuestro futuro colectivo.
El fenómeno, al que los expertos en inteligencia artificial se refieren como «captura industrial», se cuantificó en un artículo publicado por investigadores del Instituto de Tecnología de Massachusetts en la revista Science a principios de este mes, en el que se pedía a los legisladores que prestaran más atención. Sus datos son cada vez más cruciales. La IA generativa, la tecnología subyacente a los gustos de ChatGPT, se está integrando en el software utilizado por miles de millones de personas, como Microsoft Office, Google Docs y Gmail. Y las empresas, desde los bufetes de abogados hasta los medios de comunicación y las instituciones educativas, se están viendo alteradas por su introducción.
El MIT investigación encontró que casi el 70 por ciento de los doctores en IA trabajaron para empresas en 2020, en comparación con el 21 por ciento en 2004. De manera similar, hubo un aumento de ocho veces en la contratación de profesores en empresas de IA desde 2006, mucho más rápido que el aumento general en computadoras. facultad de investigación científica. “Muchos de los investigadores con los que hablamos habían abandonado ciertas trayectorias de investigación porque sienten que no pueden competir con la industria, simplemente no tienen el talento informático o de ingeniería”, dijo Nur Ahmed, autor del artículo de Science.
En particular, dijo que los académicos no pudieron construir grandes modelos de lenguaje como GPT-4, un tipo de software de inteligencia artificial que genera texto plausible y detallado al predecir la siguiente palabra en una oración con alta precisión. La técnica requiere enormes cantidades de datos y poder de cómputo a los que principalmente solo tienen acceso las grandes empresas tecnológicas como Google, Microsoft y Amazon. Ahmed descubrió que la participación de las empresas en los modelos de IA más importantes pasó del 11 % en 2010 al 96 % en 2021.
La falta de acceso significa que los investigadores no pueden replicar los modelos creados en los laboratorios corporativos y, por lo tanto, no pueden probarlos ni auditarlos en busca de posibles daños y sesgos muy fácilmente.
Los datos del documento también mostraron una disparidad significativa entre la inversión pública y privada en tecnología de IA. En 2021, las agencias gubernamentales de EE. UU. que no son de defensa asignaron $ 1.5 mil millones a AI. La Comisión Europea tenía previsto gastar 1.000 millones de euros. Mientras tanto, el sector privado invirtió más de $340 mil millones en IA en 2021.
“Existe tal concentración de riqueza e inversión en un conjunto muy reducido de técnicas”, dijo Alex Hanna, director de investigación del Instituto de Investigación de IA Distribuida y ex miembro del equipo de IA Ética de Google.
Señaló los datos de inversión de PitchBook que muestran que la mayor parte del dinero para la IA generativa en los últimos seis años se destinó a nuevas empresas como Anthropic, Inflection, Character.ai y Adept AI, y esfuerzos más grandes como OpenAI que están construyendo su propia modelos grandes. En 2019, OpenAI pasó de ser una empresa sin fines de lucro a una empresa con fines de lucro con una inversión de $ 1 mil millones de Microsoft, citando la necesidad de «aumentar rápidamente nuestras inversiones en computación y talento».
Las consecuencias de este cambio son múltiples. Significa que las alternativas públicas a la tecnología de IA corporativa, como modelos y conjuntos de datos, son cada vez más escasas. Y es probable que las nuevas aplicaciones sean impulsadas comercialmente en lugar de un interés público más amplio, señalaron varios investigadores. Hanna, cuyo trabajo está financiado por organizaciones sin fines de lucro, está de acuerdo. “Si desea trabajar en tareas especializadas de IA como garantizar la biodiversidad, la ciencia del clima o la agricultura, no hay mucho apetito para eso”, dijo.
Meredith Whittaker, presidenta de la aplicación encriptada Signal, comparó la situación con el dominio del ejército de EE. UU. sobre la investigación científica durante la guerra fría en un artículo seminal en 2021. “Es aquí, en estas historias más oscuras, donde enfrentamos el alto costo de la captura. — ya sea militar o industrial,” ella escribió. “Y sus peligrosas implicaciones para la libertad académica. . . capaz de hacer que el poder rinda cuentas”.
Los investigadores y expertos en políticas coinciden en el diagnóstico, pero no en las soluciones: algunos, como Ahmed, creen que los gobiernos deberían establecer centros de datos solo para académicos para permitir que los investigadores realicen experimentos, pero otros, como Whittaker, creen que eso concentraría aún más el poder entre quienes poseen la infraestructura. como servicios en la nube. Pero todos están de acuerdo en lo único que los políticos simplemente no pueden hacer: hacer la vista gorda.