Un débat émerge autour de la capacité des humains à différencier les images générées par IA des vraies. Une étude menée par Microsoft révèle que, malgré une certaine familiarité avec ces images, beaucoup demeurent vulnérables à la tromperie, surtout par le biais de faux visages et paysages.
Lorsque les générateurs d’images par IA sont apparus, la désinformation est rapidement devenue une préoccupation majeure. Une étude récente de Microsoft indique que les humains peuvent distinguer des photos réelles d’images générées par IA dans environ 63% des cas. En revanche, l’outil de détection d’IA en développement de Microsoft semble atteindre un taux de succès de 95%.
Pour approfondir cette question, Microsoft a conçu un quiz en ligne (realornotquiz.com) comportant 15 images choisies au hasard parmi des bibliothèques de photos et divers modèles d’IA. L’étude a analysé 287 000 images vues par 12 500 participants du monde entier.
Les participants ont surtout réussi à identifier les images générées par IA représentant des personnes, avec un taux de précision de 65%. Cependant, les images truquées les plus convaincantes étaient des deepfakes GAN montrant uniquement des profils faciaux ou utilisant l’inpainting pour insérer des éléments générés par IA dans des photos réelles.
Bien que les deepfakes GAN (réseaux antagonistes génératifs) soient l’une des plus anciennes formes d’images générées par IA, ils ont trompé environ 55% des spectateurs. Cela est en partie dû au fait qu’ils contiennent moins de détails que les générateurs d’images ont souvent du mal à reproduire. Ironiquement, leur ressemblance avec des photos de faible qualité les rend parfois plus crédibles.
Les chercheurs estiment que la popularité croissante des générateurs d’images a familiarisé les spectateurs avec l’esthétique trop lisse produite par ces outils. Demander à l’IA de mimer la photographie authentique pourrait réduire cet effet.
Certaines personnes ont constaté qu’inclure des noms de fichiers d’images génériques dans les instructions produisait des résultats plus réalistes. Pourtant, la plupart de ces images ressemblent toujours à des photos de studio bien retouchées, qui peuvent sembler déplacées dans des contextes quotidiens ou candides. À l’inverse, quelques exemples de l’étude de Microsoft montrent que le Flux Pro peut reproduire la photographie amateur en produisant des images semblant avoir été prises avec un smartphone ordinaire.
Les participants ont été légèrement moins efficaces pour identifier les images générées par IA représentant des paysages naturels ou urbains sans personnes. Par exemple, les deux fausses images ayant les plus faibles taux d’identification (21% et 23%) ont été générées à partir d’instructions intégrant de vraies photos pour guider la composition. Les images d’IA les plus convaincantes maintenaient également des niveaux de bruit, de luminosité et d’entropie similaires à ceux des véritables photos.
Étonnamment, les trois images ayant les taux d’identification les plus bas (12%, 14%, et 18%) étaient en fait de vraies photos que les participants ont mal identifiées comme fausses. Les trois montraient l’armée américaine dans des décors inhabituels avec des éclairages, couleurs et vitesses d’obturation peu communes.
Microsoft souligne que comprendre quelles instructions sont les plus susceptibles de tromper les spectateurs pourrait rendre la désinformation future encore plus persuasive. La société rappelle l’importance d’un étiquetage clair pour les images générées par IA.