Lucie
Au fil des ans, plusieurs Big Techs ont été accusés d’avoir qualifié les photos de Noirs de photos de primates. Le problème traîne depuis des années et il semble que la seule solution trouvée par Big Tech soit de supprimer toutes les balises qui concernent les primates.
En 2009, Google a été submergé par une longue série de critiques pour un problème avec une seule recherche. Barack Obama était installé à la Maison Blanche depuis quelques mois. Il a été le premier, et à ce jour le seul, président afro-américain. À cette époque, les utilisateurs de Google cherchaient des informations sur Barack Obama et sa femme, la Première Dame Michelle LaVaughn Robinson. À un certain moment, cependant, beaucoup ont réalisé qu’en cherchant Michelle Obama dans la section Google Images, l’une des premières photos qu’ils ont trouvées était une photo de la Première Dame retouchée (mal) pour ressembler à un singe.
Au fil des ans, les intelligences artificielles utilisées par Big Tech ont rencontré divers problèmes pour reconnaître les personnes d’une ethnie autre que caucasienne. En 2015, l’IA de Google Photo a identifié un groupe de Noirs comme étant des singes. En 2021, Facebook s’est excusé parce que son intelligence artificielle avait qualifié les Afro-Américains de « Primates ». Le résultat a été documenté par le New York Times : la Big Tech n’a pas appris à reconnaître les visages des Afro-Américains, elle a simplement supprimé toute catégorie liée aux singes.
La preuve sur les images du Zoo
Les reporters Nico Grant et Kashmir Hill ont testé les algorithmes utilisés pour reconnaître les images sur un ensemble de photos d’animaux. Tous emmenés dans un hypothétique voyage au zoo. Le test impliquait des services gérés d’étiquetage et de collecte d’images d’Apple, Google et Amazon. Tant qu’il s’agit de chats et de kangourous, il n’y a pas de problème, mais lorsque vous passez aux singes, l’intelligence artificielle ne peut plus trouver de résultats. Dans l’ensemble d’images utilisé pour le test, il y avait différents types de primates, des gorilles aux babouins et aux chimpanzés. Les applications n’ont trouvé aucune des premières, que ce soit avec des recherches générales ou plus spécifiques. C’est comme si la seule façon de résoudre le problème de chevauchement des balises d’image entre les personnes d’ascendance africaine et les singes était de simplement supprimer la balise du singe.
Les problèmes des bases de données formées avec peu d’images
A la racine de tous ces problèmes se trouve la construction de la base de données. Les algorithmes de reconnaissance d’images sont si faibles pour identifier les personnes noires parce qu’ils sont formés sur des bases de données qui ne contiennent qu’une minorité de visages qui ne sont pas de race blanche. Et souvent, ce problème a provoqué des arrêts inutiles dans les aéroports des États-Unis, où l’intelligence artificielle a été testée pour la reconnaissance des passagers.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :