Gemini est jugé trop “woke”, Google désactive la génération de portraits

Il est impossible depuis quelques heures de demander à Gemini de générer l’image d’une personne. Google a en effet complètement désactivé la fonctionnalité après avoir fait face à des accusations de « wokisme » de la part de certains internautes. En cause, des soldats nazis et figures historiques américaines représentés avec différents genres et couleurs de peau.

Parmi toutes les accusations qui sont possibles de faire à l’encontre des IA génératives, on ne pensait pas forcément à les qualifier de « woke ». C’est pourtant bien ce que traverse actuellement Gemini, l’IA de Google. Depuis quelques jours, celle-ci fait face aux feux d’une certaine communauté d’internautes qui s’en prennent à sa fonctionnalité de génération d’images. Plus particulièrement, à la création de portraits historiques.

En effet, jusqu’à il y a peu, l’IA générait des images, il faut bien le reconnaître, historiquement incorrectes de certaines personnes. Par exemple, en lui demandant de générer un portait de soldat nazi — on passera outre la question de l’utilité d’une telle requête — Gemini proposait plusieurs résultats dont, notamment, des femmes ainsi que des personnes racisées. Autant dire que ces dernières n’étaient pas nombreuses au sein de l’arme du IIIe Reich.

Sur le même sujet — Google : l’IA peut désormais travailler à votre place dans Gmail et Google Doc, mais il va falloir payer

Gemini manque de précision historique et se fait accuser de wokisme

Rebelote lorsque l’on demande à Gemini de générer des portraits des Pères Fondateurs ou de sénateurs américains du 18e siècle, comme ont pu le vérifier nos confrères de The Verge. Dans un souci d’inclusivité, Gemini génère systématiquement des personnes de genres et couleurs de peau diverses. Il n’en a pas fallu plus pour déclencher une terrible colère chez certains utilisateurs.

Google n’a pas tardé à réagir et a décidé de désactiver complètement la fonctionnalité le temps d’éteindre l’incendie. « Nous travaillons déjà à la résolution des problèmes récents liés à la fonction de génération d’images de Gemini », a fait savoir la firme de Mountain View sur X (Twitter). « Pendant ce temps, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée. »