\n<\/p>\n
OpenAI anunci\u00f3 el 18 de diciembre que otorgar\u00eda m\u00e1s poder a su junta directiva. Ahora la junta tendr\u00e1 la capacidad de retrasar el lanzamiento de un modelo de inteligencia artificial (IA) alegando razones de seguridad, incluso si su comit\u00e9 ejecutivo lo considera seguro.<\/p>\n
En una publicaci\u00f3n de blog, OpenAI volvi\u00f3 al proceso de evaluaci\u00f3n de los riesgos de la IA antes de publicar sus nuevos modelos. El equipo de Prepardness liderado por Aleksander Madry, profesor del Instituto Tecnol\u00f3gico de Massachusetts (MIT) y director del Centro de Aprendizaje Autom\u00e1tico Implementable del MIT, eval\u00faa continuamente los sistemas desarrollados por la empresa para conocer su rendimiento en diversas situaciones.<\/p>\n
OpenAI busca saber si existen riesgos\u201d lo que podr\u00eda resultar en cientos de miles de millones de d\u00f3lares en da\u00f1os econ\u00f3micos o provocar da\u00f1os graves o la muerte de muchas personas<\/em> “. Luego se redacta un informe y se entrega simult\u00e1neamente a la direcci\u00f3n y al consejo directivo de la empresa. \u201c Aunque la gerencia es quien toma las decisiones, la junta directiva tiene el derecho de revocar las decisiones.<\/em> \u00bb, especifica la empresa en su nota de prensa. En el futuro, el lanzamiento de una herramienta podr\u00eda retrasarse si todas las partes interesadas no est\u00e1n de acuerdo.<\/p>\n Si OpenAI quiso poner los puntos sobre las \u00edes en esta zona gris es porque, en noviembre, los desacuerdos entre varios miembros del consejo de administraci\u00f3n y Sam Altman, su actual director general, desembocaron en el despido de este \u00faltimo. Varios investigadores de OpenAI hab\u00edan escrito previamente una carta advirtiendo a la junta directiva sobre un importante descubrimiento en inteligencia artificial que, seg\u00fan ellos, podr\u00eda amenazar a la humanidad.<\/p>\n Como Sam Altman no ocult\u00f3 su deseo de comercializar r\u00e1pidamente herramientas avanzadas de IA, la junta directiva de OpenAI prefiri\u00f3 tomar la iniciativa separ\u00e1ndose de su cofundador. Despu\u00e9s de 96 horas de idas y vueltas, Sam Altman finalmente recuper\u00f3 su puesto, apoyado por la gran mayor\u00eda de sus colegas.<\/p>\n Este asunto habr\u00e1 permitido a OpenAI remodelar su consejo de administraci\u00f3n, con la llegada de varios miembros de Microsoft, principal accionista de la start-up. Bret Taylor, ex codirector ejecutivo de Salesforce, y Larry Summers, exsecretario del Tesoro de Estados Unidos, completaron la junta. Estos dos \u00faltimos nombramientos estrat\u00e9gicos permitir\u00e1n a la empresa mejorar sus relaciones con gobiernos e instituciones pol\u00edticas de todo el mundo, empresas y academia.<\/p>\n<\/div>\n