Google a dû suspendre la fonctionnalité de Gémini qui génère des images après avoir été accusé de nier la réalité historique en représentant des figures noires qui historiquement ne pouvaient pas l’être. Voici comment, dans sa tentative de dépasser les stéréotypes raciaux et de genre, le chatbot s’est retrouvé dans l’embarras.
Peut-être que les intentions étaient bonnes, mais les résultats ne l’ont pas du tout été. Ainsi, en plus de présenter ses excuses, Google a décidé de suspendre le générateur d’images de son intelligence artificielle Gemini, après être tombé au centre de la controverse pour avoir créé une série d’images historiques qui ont été accusées de « révisionnisme historique ». Mais que s’est-il passé ?
Tout a commencé avec quelques images qui semblent nier tout principe de réalisme historique, car elles représentent comme des personnes noires des figures qui historiquement ne pouvaient être que blanches. Parmi les exemples signalés par les utilisateurs, il y a des soldats nazis, des femmes avocates des années 20 et même une image des Pères fondateurs. En plus de ne pas être historiquement correctes, ces images seraient offensantes pour certains car elles nieraient l’histoire du racisme et des inégalités de genre. Certaines ont même avancé des hypothèses complotistes selon lesquelles l’IA de Google évitait délibérément de représenter des personnes blanches.
Les excuses de Google
Après que ces images ont commencé à faire le tour du web, Google est intervenu en s’excusant pour ce qu’il a décrit comme des « imprécisions dans certaines représentations historiques générées d’images », ajoutant que « Gemini crée une vaste gamme de personnes » et que « c’est généralement une bonne chose car de nombreuses personnes dans le monde l’utilisent ». Pourtant, cette fois-ci, admet l’entreprise, « elle a manqué la cible ».
En substance, même si Google ne l’a pas dit explicitement, il n’est pas très difficile d’imaginer ce qui s’est passé : les images incriminées semblent être le résultat d’une tentative de la part de Gemini de dépasser ce qui a toujours été considéré comme l’une des principales limites de l’intelligence artificielle générative, à savoir la tendance à perpétuer, en les enracinant encore plus dans l’imaginaire collectif, des stéréotypes de genre et raciaux. Cependant, dans sa tentative d’être plus inclusive, Gemini a fini par être offensant.
GEMINI | Les images créées par l’intelligence artificielle de Google
Accusée de mener une « guerre contre les blancs »
Les excuses n’ont cependant pas suffi : l’affaire a explosé en quelques heures et l’entreprise s’est retrouvée confrontée à toutes sortes d’attaques et de critiques possibles. Comme le raconte le Daily Dot, la polémique a enflé sur X (anciennement Twitter) après que plusieurs comptes ou pages liés à des milieux d’extrême droite, tels que @EndWokness et @WayOTWorld, ont partagé les « faux historiques » créés par l’IA, l’accusant de mener une « guerre contre les blancs ». « L’IA de Google est le dernier front dans la guerre contre l’histoire et la civilisation blanche », a écrit @WayOTWorld dans l’un de ses derniers messages accompagné d’images.
Même un ancien employé de Gemini, Dbarghya Das, un ingénieur travaillant avec l’IA, a participé au débat : « Il est embarrassant de faire admettre à Google Gemini qu’il existe des personnes blanches », a-t-il écrit dans un post, dans lequel il a publié une série d’images créées par l’IA représentant des femmes noires. Le problème, selon l’ancien employé de Google, est que dans l’instruction donnée à Gemini, une provenance géographique avait été expressément indiquée, comme « génère une image d’une femme suédoise », ce qui ne rendrait pas « sensée » la décision de la représenter comme une femme noire.
La décision de suspendre la génération d’images
En fin de compte, c’était inévitable : quelques heures après le message d’excuse, Google a annoncé via son compte X avoir suspendu la fonction de génération d’images pour résoudre le problème, ou du moins essayer : « Nous travaillons déjà à résoudre les problèmes récents avec la fonction de génération d’images de Gemini. En attendant, nous mettrons en pause la génération d’images de personnes et nous publierons bientôt une version améliorée ».