Au bas d’une vidéo qui montrait un homme noir en train de se disputer avec les forces de l’ordre, le réseau social a demandé à ses utilisateurs s’ils souhaitaient diffuser plus de clips sur les primates. L’erreur est imputable aux algorithmes de reconnaissance d’images en vigueur sur le réseau social, mais ce n’est pas la première fois que ces systèmes sont accusés de discriminer des catégories entières d’utilisateurs.
Les excuses de Facebook sont venues immédiatement, mais l’erreur commise par le réseau social n’est pas mineure : dans l’une des vidéos publiées sur le site, les algorithmes d’intelligence artificielle ont en effet confondu une personne noire avec un primate, demandant aux téléspectateurs si après la fin du clip qu’ils auraient aimé voir « d’autres contenus similaires ». L’histoire a fini dans les pages du New York Times et est liée à un problème endémique au sein des entreprises technologiques : la propension à la discrimination inhérente à certains algorithmes de reconnaissance d’images, qui risque de perpétrer des inégalités et des injustices envers les communautés sous-représentées.
La vidéo incriminée
Le bug vient de la plateforme Facebook Watch, le service de réseau social conçu pour offrir une répétition de vidéo à ses utilisateurs. La plate-forme est envahie par des algorithmes de reconnaissance d’images, qui tentent de comprendre ce qui est reproduit par les abonnés pour proposer immédiatement un contenu similaire, gardant les gens collés à leurs écrans plus longtemps et collectant ainsi plus d’argent auprès des annonceurs. Cependant, ces systèmes ne sont pas parfaits et révèlent dans certains cas des défauts dangereux ; pour rapporter l’épisode de ces jours était Darci Groves, un ancien employé du groupe à qui un ami a envoyé ces derniers jours un écran contenant l’erreur : à la fin d’une vidéo qui représentait un homme noir en discussion avec les forces de l’ordre, le social a demandé si « Continuer à jouer d’autres clips sur les primates. »
Précédent
Ce n’est pas la première fois que les algorithmes de reconnaissance d’images conçus par les entreprises technologiques se révèlent si peu fiables vis-à-vis de groupes ethniques particuliers, en effet : le problème fait l’objet de débats depuis des années. Le matériel de départ avec lequel ces systèmes sont entraînés comprend principalement des photos et des vidéos de personnes blanches, avec la conséquence dangereuse que la reconnaissance de tous les autres individus est moins précise. Dans les systèmes de reconnaissance faciale fournis aux forces de l’ordre, ces insectes ont déjà mis en danger la liberté et la sécurité des personnes impliquées, tandis qu’à d’autres occasions comme celle qui est à l’honneur ces jours-ci, ils finissent par se rapprocher d’un être humain à un autre animal. espèce; dans les deux cas, les algorithmes montrent qu’ils ont hérité d’une capacité de discrimination profondément humaine.
Les jeux vidéo ont (encore) un problème avec les noirs et les gays
Des excuses de Facebook
Sans surprise, Facebook a couru pour se couvrir avec ses excuses et a promis d’améliorer ses algorithmes après avoir partiellement désactivé la fonctionnalité ; d’autre part, il est également difficile d’imaginer que le réseau social n’ait pas pris conscience de l’imprécision de ces systèmes. La meilleure solution, même si économiquement moins rentable, serait d’attendre pour les utiliser jusqu’à ce qu’il soit certain qu’ils ne commettront plus les mêmes erreurs.