GPT-5, Dall-E 2, normativa AI… El CTO de OpenAI confía

Citado como el ” creador de ChatGPT ” hablar Veces, Mira Murati es la CTO (Chief Technology Officer) de OpenAI, por lo que es la responsable de liderar la innovación técnica de la empresa. En una entrevista con elAssociated Presshabla de los modelos desarrollados por la firma, pero también de los retos que aún le quedan por afrontar.

OpenAI no esperaba tal éxito de ChatGPT

Desde su lanzamiento a finales de noviembre, ChatGPT ha revolucionado toda la industria tecnológica, provocando una carrera por la inteligencia artificial (IA) generativa entre sus principales actores. En solo dos meses, el chatbot registró 100 millones de usuarios, lo que la convierte en la aplicación para consumidores de más rápido crecimiento en la historia.

Según Mira Murati, OpenAI no había previsto tal éxito. “ No anticipamos cuán cautivadas estarían las personas con la idea de hablar con un sistema de IA. Esta fue solo una descripción general de la investigación. No esperábamos tal nivel de entusiasmo, especialmente en términos de número de usuarios. », ella confiesa en la agencia de noticias.

El CTO aprovechó para decir más sobre las medidas tomadas por su empresa para prevenir posibles abusos de sus modelos, punto que cada vez genera más preocupación. Al entrenar IA, IA abierta” amplifica lo que se considera buen comportamiento y desamplifica lo que se considera mal comportamiento ».

Ella da el ejemplo de Dall-E 2, la IA generadora de imágenes. “ Queríamos reducir los sesgos dañinos que estábamos viendo. Ajustamos la proporción de imágenes femeninas y masculinas en el conjunto de datos de entrenamiento. Pero hay que tener mucho cuidado, porque se corre el riesgo de crear otros desequilibrios. Por lo tanto, es necesario realizar controles constantes. En este caso, obtuvimos un sesgo diferente porque muchas de estas imágenes eran de naturaleza sexual. Por lo tanto, debemos ajustarlo nuevamente y tener mucho cuidado cada vez que hacemos una intervención, para ver qué está perturbado. “, explica, demostrando toda la complejidad de desarrollar estas tecnologías sin que estén sujetas a sesgos.

Con respecto a ChatGPT, la empresa hizo un aprendizaje reforzado con retroalimentación humana, para que el modelo pudiera alinearse más con las preferencias humanas por sus interacciones con los usuarios.

No hay GPT-5 todavía

Mira Murati está de acuerdo en la necesidad de una regulación firme de la inteligencia artificial, al igual que el CEO de OpenAI, Sam Altman, y el CEO de Google, Sundar Pichai. ” En OpenAI, hablamos constantemente con gobiernos, reguladores y otras organizaciones que están desarrollando estos sistemas para, al menos a nivel empresarial, acordar algún nivel de estándares. “, comenta ella. Ella además considera que los reguladores gubernamentales deben ser “ involucrado » en el diálogo y manejo de esta tecnología.

Preguntado por la carta firmada por miles de personas que piden un parón de seis meses en la búsqueda de sistemas de IA más avanzados que GPT-4, Murati admite que los riesgos discutidos en ellos son ” válido “. Por otro lado, cree, al igual que su CEO, que la forma de hacer de los firmantes no permite avanzar en el debate. ” No creo que firmar una carta sea una forma efectiva de establecer mecanismos de seguridad o coordinar actores espaciales. “, remarca.

La CTO también denuncia ciertas declaraciones contenidas en la misiva, que considera falsas. Reitera los comentarios hechos por Sam Altman sobre este tema: OpenAI no funciona en GPT-5. Indica que la empresa no tiene intención de hacerlo en los próximos seis meses “. También recuerda que se desplegó GPT-4 “ con un gran número de salvaguardas y de forma muy coordinada y lenta. No está disponible para todos, y definitivamente no es de código abierto. “. Por ejemplo, OpenAI llamó a un equipo rojo para probar su modelo de lenguaje a fin de detectar y corregir sus sesgos.

” Todo esto para decir que creo que los mecanismos de seguridad y coordinación de estos sistemas de IA y cualquier sistema tecnológico complejo son difíciles y requieren mucho pensamiento, exploración y coordinación entre los jugadores. “, concluye sobre este tema.

Fotografía: Jonathan Kemper / Unsplash.

¿Pronto inteligencia artificial general&nbsp?

Mira Murati explica que OpenAI, a pesar de que ya no es una organización sin ánimo de lucro como cuando se creó, asegura que ” estructurar incentivos para que podamos continuar sirviendo a la misión sin fines de lucro “. Cuando se incorporó a la firma en 2018, ya estaba convencida de que la IA era ” la tecnología más importante jamás creada por la humanidad ahora cree que una empresa como OpenAI es la mejor manera de hacerlo de forma segura.

Por el momento, sin embargo, reconoce que su modelo de lenguaje aún está lejos de llegar al campo de la inteligencia artificial general (AGI). Este concepto, considerado la etapa final en la evolución de la IA, hace referencia a una tecnología capaz de comprender o aprender cualquier tarea intelectual que pueda realizar un ser humano. ” Estamos lejos de tener un sistema AGI seguro, confiable y alineado. Nuestro camino para llegar allí tiene algunos vectores importantes “dice el ingeniero.

Para lograrlo, enfatiza la importancia de probar y validar modelos en condiciones reales. ” No basta con desarrollar esta tecnología en el vacío del laboratorio. Realmente necesitamos ese contacto con la realidad, con el mundo real, para ver dónde están las debilidades, dónde están los puntos de quiebre, y tratar de hacerlo de una manera controlada, con bajo riesgo, obteniendo la mayor retroalimentación posible. “, ella explica. Por el contrario, algunos expertos quieren precisamente evaluar los riesgos de estos sistemas y ralentizar la investigación antes de desplegarlos.