El secreto de OpenAI pone en peligro la confianza pública

Desbloquea el Editor’s Digest gratis

Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.

Querido lector,

Es increíble que todavía no sepamos por qué la junta directiva de OpenAI despidió a su fundador y director ejecutivo, Sam Altman. Su rápido regreso ha socavado la legitimidad de esa decisión. Pero es una pregunta que todavía merece una respuesta, aunque sólo sea para tranquilizar al público sobre la seguridad de la investigación en inteligencia artificial.

La forma en que la junta directiva de OpenAI manejó la salida de Altman fue espectacular y desastrosa. Cuando se supo la noticia, sólo diría que el jefe no había sido siempre sincero en sus comunicaciones. Esta fue una explicación escasa para expulsar a un líder que había sido fundamental para hacer de OpenAI un nombre familiar. La nueva empresa estadounidense ha conseguido 13.000 millones de dólares en financiación de Microsoft, lo que la sitúa al borde de una valoración de 86.000 millones de dólares.

El vacío de información desencadenó una avalancha de teorías de conspiración. Sin una explicación oficial detallada, los rumores abundaban en las redes sociales, algunos de ellos sin duda difundidos por operadores de acciones tecnológicas relacionadas.

Algunos de los chismes se calmaron cuando un memorando interno aclaró que la salida no había estado relacionada con “malversación ni nada relacionado con nuestras prácticas financieras, comerciales, de seguridad o de seguridad/privacidad”. Pero entonces, ¿qué mereció el despido de Altman? ¿Y por qué el cofundador Ilya Sutskever, parte del grupo que lideró el golpe, declaró arrepentimiento tan rápidamente?

Hasta ahora, los medios, incluido el Financial Times, han informado que los desacuerdos entre Altman y la junta estaban relacionados con dos cuestiones. Primero, las conversaciones de Altman con personas como Masayoshi Son de SoftBank e inversionistas en el Medio Oriente sobre proyectos paralelos, incluida una posible compañía de chips. En segundo lugar, la velocidad con la que OpenAI comercializa la IA. Los informes sobre un gran avance en la investigación (el misterioso modelo Q*) también pueden haber causado preocupación.

Como organización estadounidense sin fines de lucro, OpenAI no tiene la obligación de contarnos qué sucedió. Debe presentar declaraciones de impuestos y poco más. Incluso cuando un director ejecutivo deja una empresa pública, existe un límite en cuanto a la información que se requiere. La Comisión de Bolsa y Valores exige que detalles como las fechas se revelen en un Formulario 8-K. Pero las razones para una salida no son necesarias. Sólo una fracción se registra como despedido “por causa justificada”.

Es frustrante que nunca sepamos qué impulsó exactamente a la junta directiva de OpenAI a tomar su decisión. Pero podemos adivinar lo que sucederá a continuación.

En teoría, la junta anterior respondía ante todos, no sólo ante los inversores. Ahora ha sido desmantelado. Es poco probable que la nueva junta directiva se haga eco de las opiniones altruistas de su predecesora. En el tira y afloja entre comercialización e investigación, ha ganado la comercialización. Habrá más ideas de productos por venir. La búsqueda de una inteligencia similar a la humana, conocida como inteligencia artificial general, puede ralentizarse. Los planes para lanzar una oferta pública de adquisición para comprar acciones de los empleados (con suerte, con una valoración de 86.000 millones de dólares) serán una prioridad.

Hay motivos para lamentarlo. La función de la primera junta era garantizar que OpenAI llevara a cabo una investigación de IA que fuera “segura y beneficiara a toda la humanidad”. La idea de una junta directiva que tenga la vista puesta en el futuro y no en los deseos inmediatos de los inversores no es mala, sobre todo si tiene influencia real.

Meta creó una junta de supervisión independiente en 2020 para revisar las decisiones sobre moderación de contenido. Esto podría servir como un precedente útil, si la junta tuviera poder real. El fundador y director Mark Zuckerberg dice que sus decisiones son vinculantes. Pero no hay manera de hacer cumplir eso. Con acciones especiales que confieren derechos de voto, nadie tiene más voz sobre Meta que Zuckerberg.

Claramente, Altman no logró mantener buenas relaciones con la junta directiva de OpenAI. Antes de su salida, tres directores ya habían dimitido este año: el cofundador de LinkedIn, Reid Hoffman, el ejecutivo de Neuralink, Shivon Zilis, y el político Will Hurd. La junta restante era pequeña y carecía de experiencia corporativa.

Su entusiasmo por el dudoso concepto de “altruismo efectivo” –que combina la filantropía con el utilitarismo– contribuyó a la apariencia de debilidad. El defensor más famoso de EA, Sam Bankman-Fried, fue declarado recientemente culpable de fraude tras el colapso de su empresa FTX.

Ahora OpenAI tiene una nueva junta “inicial” que incluye al ex codirector de Salesforce, Bret Taylor, Larry Summers y al anterior miembro de la junta, Adam D’Angelo.

Altman ha vuelto como jefe. Controlarlo puede ser más difícil que nunca, particularmente dada la fuerza de la lealtad de los empleados que condujo a su regreso.

Mientras tanto, el papel de Microsoft en traer de vuelta a Altman le da más voz sobre la dirección de la empresa.

Ha aceptado una investigación interna sobre lo que llevó a la primera junta a destituirlo. Los resultados de esto podrían ayudar a la nueva junta a controlarlo más estrechamente.

Hay buenos argumentos para publicar las conclusiones, aunque sólo sea en forma esquemática. OpenAI es una empresa privada. Pero la naturaleza revolucionaria de sus productos los convierte en una preocupación pública.

Otras cosas que he estado leyendo

La IA generativa aún no puede vencer a los codificadores humanos, pero este ensayo del New Yorker sugiere que podemos estar viviendo en el últimos días de codificación.

Disfruta el resto de tu semana,

Elaine Moore
Jefe adjunto de Lex