Un nouvel outil d’OpenAI, Sora 2, permet de créer des deepfakes d’icônes décédées en quelques clics, suscitant des questions éthiques sur l’utilisation de leur image. Les utilisateurs se sont déjà confrontés à des contenus problématiques, tandis qu’OpenAI redéfinit les règles entourant les droits d’auteur.
Sora 2 est devenue, en quelques jours, un véritable générateur de deepfakes. Les vidéos d’icônes décédées, telles que Michael Jackson, Tupac Shakur, Maradona, Bob Ross, Martin Luther King Jr., Kurt Cobain, Stephen Hawking, sont rapidement apparues. Cela s’explique par le fait qu’OpenAI a restreint les représentations de personnalités vivantes, laissant ainsi place à des personnages historiques, faisant des célébrités disparues des cibles idéales.
Cet incident s’inscrit dans un nouveau marché, celui de la résurrection artificielle, qui inclut la création d’images, de bots, de vidéos et d’avatars de personnes disparues. Des deepfakes d’Ozzy Osbourne ont déjà émergé après son décès. De plus, depuis les années 2000, des reconstructions artificielles de célébrités étaient présentes, mais avec Sora 2, il suffit d’un clic pour produire des versions extrêmement réalistes. Cela pose des questions éthiques : qui détient les droits d’une personne après sa mort et comment un défunt peut-il se défendre contre une utilisation inappropriée de son image ?
@longliveai
Le Sora 2 d’OpenAI a récemment généré une vidéo ultra-réaliste de Stephen Hawking réalisant un run de halfpipe aux X Games. L’éclairage, le mouvement et le travail de caméra semblent si réels que certains en ligne pensaient qu’il s’agissait d’un événement réel. Sora 2 transforme des prompts texte simples en clips vidéo de haute qualité, utilisant des modèles d’animation et de physique avancés pour créer un mouvement naturel. C’est à la fois drôle et surréaliste, montrant le pouvoir de la génération vidéo par IA. Si l’IA peut créer de tels moments en quelques secondes, à quoi ressemblera le divertissement dans quelques années ? Drôle ou effrayant ? 👀💬 Rejoignez la communauté AI qui connaît la croissance la plus rapide sur TikTok @longliveai 🎥: underpaid_mom via TT #ai #artificialintelligence #sora #trending #viral #technews #future #sora2
♬ Originalton – theprompter – theprompter
Sora 2, entre créativité et chaos : les premières vidéos suscitent le débat
Sora 2 est la première plateforme sociale d’OpenAI, en mesure de concurrencer TikTok. Peu après son lancement, de nombreuses vidéos controversées sont apparues. Parmi elles, Drew Harwell, journaliste au Washington Post, a partagé un extrait le montrant créant un vidéo où Sam Altman est représenté comme un leader militaire de la Seconde Guerre mondiale. Harwell a aussi réussi à générer des contenus au ton provocateur, dont des vidéos violentes et des images de femmes couvertes de substances blanches.
Le fil d’actualité de Sora a également vu défiler des vidéos de personnages protégés par des droits d’auteur tel que SpongeBob, South Park et Rick and Morty. Par ailleurs, selon le Guardian, l’application ne semble pas rencontrer de difficulté à produire des vidéos où Pikachu impose des taxes à la Chine, vole des roses du jardin de la Maison Blanche, ou participe à une manifestation du mouvement Black Lives Matter aux côtés de SpongeBob. Dans un autre exemple rapporté par 404 Media, SpongeBob apparaît vêtu en Adolf Hitler. Tous les vidéos générés par Sora comportent actuellement un filigrane, mais on peut se demander si cela est suffisant compte tenu des possibilités offertes par la plateforme.
OpenAI change les règles : la responsabilité incombe aux utilisateurs
OpenAI a précisé que, pour toute création de contenu problématique, les utilisateurs portent l’entière responsabilité. Dans son « accord de téléchargement des médias », l’entreprise demande aux utilisateurs de confirmer, par un simple clic, qu’ils possèdent tous les droits nécessaires sur les matériaux téléchargés. Ce même document avertit explicitement que l’utilisation abusive de ces contenus peut entraîner la suspension ou l’annulation définitive du compte, sans remboursement.
Un autre changement majeur concerne la gestion des droits d’auteur. Comme l’indique le Wall Street Journal, OpenAI a d’abord permis aux détenteurs de droits de s’exclure (opt-out) de l’utilisation de leurs œuvres par l’IA. Récemment, cette approche a été modifiée, et la société exige maintenant que les titulaires de droits s’engagent activement (opt-in) pour autoriser l’utilisation de leurs contenus.
“Nous offrirons aux titulaires de droits un contrôle plus détaillé sur la génération de personnages, suivant un modèle d’opt-in similaire à celui appliqué pour les similitudes physiques, mais avec des niveaux de gestion supplémentaires”, a expliqué Sam Altman dans un récent article de blog. Cela laisse penser que la course à l’IA générative ouvre un chapitre inédit dans l’histoire des médias, où l’imagination n’a plus de limites, mais la « vérité » semble en perdre de plus en plus.