OpenAI anunció el 18 de diciembre que otorgaría más poder a su junta directiva. Ahora la junta tendrá la capacidad de retrasar el lanzamiento de un modelo de inteligencia artificial (IA) alegando razones de seguridad, incluso si su comité ejecutivo lo considera seguro.
OpenAI prefiere jugar la carta de la precaución
En una publicación de blog, OpenAI volvió al proceso de evaluación de los riesgos de la IA antes de publicar sus nuevos modelos. El equipo de Prepardness liderado por Aleksander Madry, profesor del Instituto Tecnológico de Massachusetts (MIT) y director del Centro de Aprendizaje Automático Implementable del MIT, evalúa continuamente los sistemas desarrollados por la empresa para conocer su rendimiento en diversas situaciones.
OpenAI busca saber si existen riesgos” lo que podría resultar en cientos de miles de millones de dólares en daños económicos o provocar daños graves o la muerte de muchas personas «. Luego se redacta un informe y se entrega simultáneamente a la dirección y al consejo directivo de la empresa. “ Aunque la gerencia es quien toma las decisiones, la junta directiva tiene el derecho de revocar las decisiones. », especifica la empresa en su nota de prensa. En el futuro, el lanzamiento de una herramienta podría retrasarse si todas las partes interesadas no están de acuerdo.
Si OpenAI quiso poner los puntos sobre las íes en esta zona gris es porque, en noviembre, los desacuerdos entre varios miembros del consejo de administración y Sam Altman, su actual director general, desembocaron en el despido de este último. Varios investigadores de OpenAI habían escrito previamente una carta advirtiendo a la junta directiva sobre un importante descubrimiento en inteligencia artificial que, según ellos, podría amenazar a la humanidad.
Como Sam Altman no ocultó su deseo de comercializar rápidamente herramientas avanzadas de IA, la junta directiva de OpenAI prefirió tomar la iniciativa separándose de su cofundador. Después de 96 horas de idas y vueltas, Sam Altman finalmente recuperó su puesto, apoyado por la gran mayoría de sus colegas.
Este asunto habrá permitido a OpenAI remodelar su consejo de administración, con la llegada de varios miembros de Microsoft, principal accionista de la start-up. Bret Taylor, ex codirector ejecutivo de Salesforce, y Larry Summers, exsecretario del Tesoro de Estados Unidos, completaron la junta. Estos dos últimos nombramientos estratégicos permitirán a la empresa mejorar sus relaciones con gobiernos e instituciones políticas de todo el mundo, empresas y academia.