Sora 2, un outil de création vidéo d’OpenAI, est utilisé pour produire des vidéos cruelles cibler les personnes en surpoids ou obèses. Cette tendance soulève des inquiétudes quant à l’impact de ces contenus sur le bien-être mental de jeunes publics déjà vulnérables.
Sora 2, l’outil de génération vidéo d’OpenAI, est massivement utilisé pour créer et diffuser des vidéos dégradantes de personnes en surpoids ou obèses
Tandis que les dirigeants de sociétés comme Netflix ou Disney évoquent une création artistique démocratisée grâce à l’IA générative, la réalité montre que des outils comme Sora 2 facilitent surtout la production d’ insultes visuelles sophistiquées.
Plusieurs médias ont remarqué que la simplicité de générer des vidéos « hyperréalistes » avec ces applications entraîne une vague de contenu offensant dirigé contre les personnes obèses.
« Mais on reconnaît que c’est de l’IA »
Des internautes avancent que la facilité d’identification de ce contenu comme étant généré par IA, en raison d’un filigrane ou d’autres moyens, le rend inoffensif. Néanmoins, ces contenus demeurent extrêmement cruels.
Cette « protection » est, au mieux, naïve. Les filigranes visibles et les métadonnées intégrés par OpenAI et d’autres entreprises pour identifier les vidéos comme synthétiques se sont révélés être une barrère très fragile. Peu de temps après le lancement de Sora 2, de nombreux services en ligne spécialisés dans l’élimination des deux couches de protection étaient déjà disponibles.
Par exemple, des outils comme Bylo.ai ou MagicEraser utilisent l’intelligence artificielle pour détecter et masquer les pixels du filigrane, remplissant l’espace manquant avec des informations extrapolées des images environnantes.
Il n’est pas compliqué de trouver ces applications ; une simple recherche sur Google durant l’écriture de cet article a révélé de nombreux articles SEO rassemblant « les meilleures » pages pour supprimer les filigranes des vidéos générées par IA.
Hany Farid, professeur à l’Université de Californie à Berkeley, a souligné que la rapidité à laquelle ces éliminateurs ont émergé était prévisible, affirmant dans des déclarations à 404 Media que « ce n’est pas la première fois qu’un modèle d’IA implémente des marques visibles, et presque immédiatement, des services pour les effacer apparaissent ».
De plus, des plateformes comme YouTube Shorts commencent à appliquer des filtres d’IA à tous les contenus vidéo de leur catalogue pour « améliorer la qualité visuelle ». Que ces effets soient réussis ou non est discutable, mais le résultat secondaire est que tous les contenus semblent générés par IA.
@showtoolsai
PSA pour quiconque utilise YouTube shorts
♬ son original – Jeremy Carrasco
Revenons au sujet principal ; une tendance émerge sur les plateformes de vidéos courtes, avec la création de contenus IA « humoristiques », où le « blague » repose sur une personne en surpoids qui tombe, vole de la nourriture ou simplement se trouve obèse. Pour le confirmer, un passage sur TikTok, Shorts ou Reels vous fera découvrir rapidement de nombreux exemples accumulant des centaines de milliers de « likes ».
@nickweavo444
GROS TYPE SAUTANT DANS LA PISCINE IA 🤖 DÉTRUIT TOUT #fyp #ai #viral #fyppppppppppppppppppppppp #blowthisupforme
♬ adinfenty sur instagram – adin.solana
J’ai un ami passionné par l’IA générative, investissant beaucoup de son temps libre à l’expérimenter. Je lui ai demandé ce qu’il pensait de l’utilisation de Sora 2 pour ces fins. Sa réponse a été que « cela ne fait de mal à personne, ce ne sont pas de vraies personnes, ce ne sont pas des moqueries ciblées, c’est de l’humour ».
Je lui ai, avec bienveillance, rétorqué que j’avais récemment lu un article dans The Lancet dans lequel des chercheurs de l’Université d’Oxford expliquent que l’IA peut avoir un impact significatif sur le bien-être mental et émotionnel des enfants et adolescents. Ces groupes sont, par ailleurs, très susceptibles de souffrir de troubles alimentaires. Les auteurs affirment que « l’exposition à ce type de contenu, renforçant des stéréotypes dégradants et promouvant la grossophobie, peut accroître l’anxiété, l’isolement et perpétuer une image négative de soi chez ces groupes ».
En connaissance de cela, il me semble irresponsable de croire que ces contenus sont réellement inoffensifs. Je ne pense pas qu’il faille restreindre l’humour ou interdire certaines publications, mais je crois qu’il est sage de réguler d’une certaine manière les contenus où « le blague » consiste à désigner quelqu’un et dire « regarde ce que fait le gros ».