Google n’autorise plus son logiciel Gemini AI à générer des images de personnes après avoir montré aux utilisateurs des soldats nazis et des colons américains non blancs.
La société Internet a admis que dans certains cas, la représentation ne correspondait pas au contexte historique. La fonctionnalité n’était toujours pas disponible vendredi. Dans le même temps, Google a fondamentalement défendu la diversité dans la génération d’images IA : c’est une bonne chose car des personnes du monde entier utilisent ce logiciel. Mais dans ce cas précis, ils sont allés trop loin.
Il y a trois semaines, Google Gemini s’est doté d’une nouvelle fonction permettant de générer des images à partir de spécifications de texte. D’autres logiciels similaires basés sur l’intelligence artificielle possèdent également cette capacité.
Dans un article de blog publié vendredi, Google a expliqué qu’il n’avait pas programmé d’exceptions pour les cas où la diversité n’aurait définitivement pas sa place. Les images qui en ont résulté étaient « embarrassantes et fausses ». Dans le même temps, le logiciel est devenu au fil du temps trop prudent et a refusé de répondre à certaines exigences. Mais si les utilisateurs voulaient afficher des photos d’un « vétérinaire blanc avec un chien », le programme devrait le faire. Le responsable de Google, Prabhakar Raghavan, a souligné que les erreurs n’étaient pas intentionnelles.
Ces dernières années, il y a souvent eu un problème de stéréotypes et de discrimination dans diverses applications de l’intelligence artificielle. Par exemple, les logiciels de reconnaissance faciale étaient initialement incapables de reconnaître les personnes noires. Lorsque l’IA créait des images, les Blancs étaient au départ souvent représentés.
Les développeurs d’autres entreprises s’efforcent donc d’obtenir plus de diversité dans différents scénarios. Parfois – comme dans ce cas – ils se retrouvent coincés entre les deux fronts. Il y a un fort mouvement notamment aux États-Unis, notamment parmi les milliardaires de la technologie. Elon Musk entendu dénoncer un prétendu racisme contre les Blancs. En particulier, le refus du logiciel de générer des images de personnes blanches uniquement a suscité leur colère.
Dans le même temps, Raghavan, directeur de Google, a souligné que les logiciels dotés d’intelligence artificielle continueront parfois à se tromper pour le moment. « Je ne peux pas promettre que Gemini produira occasionnellement des résultats embarrassants, incorrects ou offensants », a-t-il écrit. Mais Google interviendra rapidement en cas de problème.
VUE SUR LA MONTAGNE (dpa-AFX)
Produits à effet de levier sélectionnés sur Alphabet C (ex Google)
Avec les knock-outs, les investisseurs spéculatifs peuvent participer de manière disproportionnée aux mouvements de prix. Sélectionnez simplement le levier souhaité et nous vous présenterons des produits ouverts adaptés sur Alphabet C (ex Google)
L’effet de levier doit être compris entre 2 et 20
Publicité