La fonctionnalité introduite en février sur Facebook et Instagram marque les photos et illustrations comme si elles avaient été réalisées par une intelligence artificielle. Derrière cette erreur pourrait se cacher une « lecture » erronée des images numériques.
@KKRIDERS | L’image de l’équipe indienne de cricket Kolkata Knight Riders que Meta a signalée comme générée par l’IA
Pete Souza a été le photographe officiel de la Maison Blanche pour Ronald Reagan et Barack Obama. En 2011, il a pris la célèbre photo dans la Situation Room, la pièce où les sommets du gouvernement américain ont suivi de loin le raid qui a conduit à la mort de Osama Bin Laden. Une image pleine de tension, qui capture en direct un moment historique. En plus de celle-ci, des centaines de ses autres clichés sont devenus célèbres.
Personne n’aurait imaginé qu’un photographe de ce calibre utiliserait l’intelligence artificielle pour créer l’image d’un match de basket qui s’est déroulé il y a 40 ans. Et pourtant, le post Instagram est affublé de l’étiquette « Créé avec l’IA ». Pour Meta, ce n’est pas une vraie photo.
Que s’est-il passé avec l’étiquette « Créé avec l’IA » de Meta
Pete Souza n’est pas le seul. Sur d’autres comptes Instagram, l’étiquette incriminée est apparue, même dans des cas qui n’ont rien à voir avec le photojournalisme. Par exemple, les illustrations au crayon publiées sur Instagram par l’artiste Kyle Webster ont été massivement marquées comme générées par l’IA même si elles sont le fruit de son travail manuel. Même la photo des Kolkata Knight Riders, l’équipe de cricket indienne brandissant le trophée remporté lors de l’Indian Premier League, est signalée comme fausse.
L’image d’une fille en cosplay en train de courir ? Elle aussi créée avec l’intelligence artificielle. « Fantastique, donc mon cosplay réalisé par le travail physique de mes mains a été étiqueté comme contenu généré par l’IA sur Instagram et je n’ai aucun moyen de corriger ce tag« . Une erreur ou un bug qui peut coûter cher à plusieurs artistes.
Quelle est l’explication possible du bug de Meta
En février, l’étiquette tant attendue signalant quand une image est générée par l’intelligence artificielle est arrivée. Un choix devenu nécessaire en raison de la prolifération d’images si réalistes qu’elles semblent vraies, mais surtout un moyen de contenir la propagation de la désinformation. Son fonctionnement devrait être simple : ce sont les utilisateurs qui signalent manuellement que l’image est générée par une IA, ou c’est un algorithme de Meta qui le fait automatiquement. La machine qui révèle le travail d’une autre machine.
Pour « démasquer » l’auteur artificiel, les systèmes de Meta doivent lire les métadonnées de l’image et vérifier si un certificat C2PA est présent. Il s’agit d’une « signature numérique » qui marque les fichiers créés par l’IA. Cependant, toutes les entreprises fournissant des générateurs d’images avec intelligence artificielle n’adhèrent pas au projet. Et ceux qui ne font pas partie du système pourront diffuser leurs propres fausses photos sans être marqués.
C’est pourquoi il n’est pas difficile d’imaginer que l’algorithme de Meta traque également d’autres signaux, en plus du certificat C2PA, pour vérifier si une image est réelle ou non. Par exemple, des manipulations éventuelles avec des logiciels de graphisme. Une modification de couleur, de luminosité ou de définition d’une photo, cependant, n’indique pas qu’elle a été créée grâce à une IA.
Par exemple, dans le cas de la photo prise sur pellicule par Pete Souza lors d’un match entre les Celtics et les Lakers, il pourrait y avoir eu un problème de format, au sens propre. En répondant au site TechCrunch, le photographe américain a expliqué qu’il avait découpé l’image numérisée avec un programme Adobe et l’avait ensuite « aplatie » avant de la sauvegarder au format jpeg. Cela semble avoir déclenché l’algorithme de Meta, qui a ainsi étiqueté la photo comme fausse.