Des nazis de différentes couleurs de peau: Google s'excuse pour les erreurs historiques de son IA

Google s'est exprimé dans un communiqué après une polémique visant une inclusivité "trop présente" lors de la génération d'image par Gemini, son IA générative.

"Des inexactitudes dans certaines représentations de génération d'images historiques". Dans un communiqué publié sur X (ex-Twitter), Google a reconnu une défaillance de son outil d'intelligence artificielle générative, Gemini. Cette dernière est capable de générer du texte, comme ChatGPT, mais aussi des images, comme Midjourney.

En cause? La génération, par Google Gemini, d'images présentant une diversité dans des circonstances parfois étonnantes. Notamment des représentations de soldats nazis de multiples couleurs de peau, lorsque l'internaute réclamait une image de soldats allemands de 1943, comme a pu le constater le média américain The Verge.

Alors que les modèles d'intelligence artificielle générative sont parfois accusés d’amplifier les stéréotypes raciaux et de genre, Google semble avoir tenté de résoudre le problème, en imposant la diversité raciale et l'inclusivité à son IA générative.

"Nous travaillons à améliorer ce type de représentations, avec effet immédiat. La génération d'images IA de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose car des gens du monde entier l’utilisent", s'excuse Google en indiquant toutefois avoir "raté le coche" sur la création "d'images historiques".

Débat politisé

Ce "large éventail de personnes" proposé par Gemini alimente par ailleurs des débats sur la représentation des différentes couleurs de peau. Sur Twitter, certains internautes estiment que Google "refuse de reconnaître l'existence" des personnes blanches, comme le souligne le média spécialisé The Daily Dot.

Sur Twitter, un ancien employé de Google s'est appuyé sur les différents résultats de génération d'image proposés par Gemini pour défendre sa position. Lors de ses quatre requêtes - demandant à l'IA de représenter des "femmes australiennes" ; "américaines" ; "britanniques" et "allemandes" -tous les résultats présentaient des images de femmes, pour la plupart à la peau noire.

"Il est très difficile de faire en sorte que Google Gemini admette que les personnes blanches existent" a-t-il écrit, dans un tweet vu plus de 4 millions de fois.

Depuis le début du mois de février, Google permet de générer des images grâce à son outil Bard - renommé depuis Gemini. Le modèle est, pour le moment, uniquement disponible en anglais et doit répondre au développement fulgurant de son concurrent DALL-E 3, le générateur d'images d'Open AI, boosté par ChatGPT.

L'outil de génération d'images par Gemini n'est pas encore disponible en France. The Verge souligne que "désormais, Gemini refuse d'exécuter certaines demandes de représentations historiques. Certaines demandes, néanmoins, "finissent toujours par déformer les faits du passé", indique le média.

Willem Gay