La nueva inteligencia artificial (IA) de Google ya no podrá generar humanos hasta nuevo aviso, anunció la compañía. La causa es la creación de imágenes históricas incoherentes, incluso problemáticas.
un nuevo problema
Google lanzó la herramienta de generación de imágenes Gemini a principios de este mes, junto con el lanzamiento de su plan pago para acceder a la versión más sofisticada del modelo. Desde hace varios días, numerosas publicaciones en las redes sociales se quejan de imprecisiones históricas en sus creaciones. Por ejemplo, la IA generó imágenes de mujeres y personas de color como soldados alemanes de la Segunda Guerra Mundial, padres fundadores o vikingos.
La firma de Mountain View rápidamente admitió su error, indicando que había “ falló la marca «. En una publicación en X, ella explica « pausar la generación de imágenes de personas », a la espera de implementar una versión mejorada de la IA.
Desde hace varios años, los estudios demuestran que la inteligencia artificial a veces muestra prejuicios racistas, sexistas y homofóbicos. En un esfuerzo por corregir este sesgo, Google amplificó el fenómeno opuesto, creando otro problema. Al generar a personas negras o nativas americanas como fundadores de Estados Unidos, por ejemplo, la IA borra cientos de años de opresión contra estas poblaciones.
“ Los contextos históricos tienen más matices y los adaptaremos en consecuencia. dijo Jack Krawczyk, director senior de productos de Gemini en Google.
Los defectos de la IA generativa
Esta decepción llega en un mal momento para la firma de Mountain View. Sorprendida por los avances de OpenAI y Microsoft en el campo de la inteligencia artificial generativa, la empresa ha incrementado sus esfuerzos internos para ponerse al día.
Cuando se lanzó su AI conversacional Bard el año pasado, mucha gente criticó a la empresa. Sus empleados incluso consideraron que el anuncio del modelo fue chapucero y apresurado. El despliegue de Gemini marcó un nuevo punto de inflexión para Google en la frenética carrera por la IA generativa.
Un incidente que también nos recuerda los fallos de esta tecnología a pesar de su crecimiento exponencial. Una de las principales características de los modelos de IA generativa es su tendencia a alucinar. Un problema que los proveedores de IA están tratando de minimizar pero que, por el momento, están luchando por controlar realmente.