Une journaliste révèle comment une application d’intelligence artificielle a gommé sa disabilité, soulignant les dangers de la normalisation des corps et l’absence de diversité. Ce phénomène, reflet de préjugés sociaux, questionne la manière dont la technologie façonne notre perception de la réalité.
Le péché originel a des racines anciennes. D’un côté, l’algorithme a été entraîné pour générer des corps normalisés, souvent sexualisés (surtout ceux des femmes), de l’autre, il a été alimenté par des images provenant du web, la plupart imprégnées de beauté stéréotypée. Une nouvelle démonstration d’une société qui cache la disabilité. L’IA n’est qu’un dernier effet secondaire.
“J’ai vu cette appli, Remini, devenue virale sur les réseaux sociaux. Elle génère diverses images à partir de ta photo, je l’ai téléchargée et j’ai ensuite appuyé sur générer. Le résultat a été glaçant.” L’interlocuteur, Valentina Tomirotti, journaliste et activiste du monde du handicap, “j’ai une disabilité physique et motrice évidente, je suis en fauteuil roulant”, et pourtant, l’intelligence artificielle a tout effacé, normalisant son corps. Remini promet « de transformer tes vieilles photos, granuleuses, floues ou endommagées en images haute qualité d’un simple tap! », peut-on lire dans la description de l’App Store. Pourtant, elle a dépassé les limites.
“Dans les photos qu’elle a générées, elle a complètement supprimé ma disabilité et ma configuration physique », a expliqué Tomirotti à Netcost-security.fr. “Non seulement, je ne suis pas filiforme, mais l’intelligence artificielle m’a fait mincir de manière excessive.” Le cas Tomirotti est un point de départ pour réfléchir à une intelligence artificielle qui écrase les corps dans des normes de beauté dangereuses. Une intelligence artificielle qui non seulement n’est pas inclusive mais qui efface la disabilité. “Elle m’a ‘réparée’, elle a effacé tout signe de ce que je suis, comme si ma réalité était une anomalie à corriger.”
Les risques d’une intelligence artificielle discriminatoire
“Je n’ai pas de problème avec mon image”, a souligné Tomirotti, “mais l’intelligence artificielle qui efface ou normalise la disabilité est extrêmement dangereuse”. Elle l’est à deux niveaux : personnel et social. “Imaginons une personne qui ne s’aime pas, qui lutte pour s’accepter et qui éprouve peut-être une dysphorie, donc une perception déformée d’elle-même, et voit que l’IA crée une version normalisée. Pense à ce que cela pourrait faire à une personne en situation de disabilité…”.
Actuellement, l’Europe souhaite investir 200 milliards d’euros dans l’IA : cela suffira-t-il à trouver un algorithme ?
Comme l’explique Tomirotti, l’intelligence artificielle qui “répare”, fait maigrir, efface les fauteuils roulants ou normalise les proportions des membres contribue à alimenter de possibles troubles, mais aussi de simples peurs. Des craintes amplifiées par une société qui n’est pas inclusive, et c’est là que nous atteignons le deuxième niveau. “La disabilité n’est pas racontée, en fait, je dirais qu’elle est cachée au niveau social, et nous n’avons pas besoin d’une IA qui veut supprimer les fauteuils roulants.”
Le péché originel de l’algorithme
Le péché originel a des racines anciennes. D’un côté, l’algorithme a été entraîné pour générer des corps normalisés, souvent sexualisés (surtout ceux des femmes), de l’autre, il a été alimenté par des images provenant du web, la majorité imprégnées de beauté stéréotypée. Une nouvelle démonstration d’une société qui cache la disabilité. L’IA n’est qu’un dernier effet secondaire.
“C’est la démonstration d’un imaginaire collectif qui a encore du mal à accepter la diversité. Un algorithme ne fait que refléter les préjugés de ceux qui l’ont créé. Et si aujourd’hui l’IA relègue la disabilité à l’invisibilité, que nous dit cela sur le monde que nous sommes en train de construire ?”, dénonce Tomirotti sur les réseaux sociaux. “Je n’ai pas besoin d’être retouchée pour exister. Mon image réelle n’est pas une erreur. Peut-être que, plus que de changer les visages sur les photos, nous devrions changer le regard avec lequel nous voyons le monde.”