À l’ère numérique, la technologie de la création d’images et de voix d’illustres personnalités s’est largement diffusée, mais elle est détournée par des cybercriminels à des fins malveillantes. Cet emploi de deepfakes suscite des arnaques inquiétantes qui trompent même les fans les plus vigilants. Un examen des cas récents illustre l’ampleur du phénomène.
La technologie permet de recréer la voix et l’image de célébrités, ce que les cybercriminels exploitent à leur avantage
La dernière tendance en matière de cyberescroqueries sont les deepfakes de célébrités. Les criminels falsifient la voix et l’image de personnalités, comme Taylor Swift, Leo Messi, Tom Hanks, Lamine Yamal ou David Broncano pour promouvoir des applications et des produits de manière frauduleuse. Nous allons vous présenter les cas les plus notables, comment ils sont créés et comment nous pouvons nous défendre contre eux grâce à quatre clés pour détecter les deepfakes.
Les cas de deepfake les plus pertinents
Les criminels clonent la voix des célébrités grâce à l’IA, et parfois également leur image. Ils le font pour donner confiance à un produit qui, dans la plupart des cas, s’avère frauduleux. Comme nous l’indiquons plus loin, n’importe qui peut le faire, ce qui rend la création de ces contenus très facile.
Leo Messi lance sa propre application
La voix de la star argentine a été usurpée pour promouvoir une prétendue application frauduleuse appelée « Wildcat Dive ». Les criminels ont utilisé une vraie interview de Messi et ont implanté sa voix clonée afin de laisser croire qu’il annonçait un jeu qu’il aurait créé, permettant de gagner jusqu’à 800 000 pesos par jour.
@miguegranados totalement dénonçable pic.twitter.com/MpsF03Shbp
— tanogue (@TanoGuerrero1) 16 mars 2024
Taylor Swift fait gagner des ustensiles de cuisine
Taylor Swift est l’une des plus grandes victimes de l’IA. En janvier 2024, des deepfakes sexuels de la chanteuse ont circulé sur X, et par la suite son image et sa voix ont été clonées pour un faux tirage au sort d’ustensiles de cuisine. L’artiste prétendait qu’un fabricant de poêles et de casseroles offrait ses produits gratuitement. En dehors du fait que la chanteuse n’a jamais tourné cette publicité, les produits n’arrivaient jamais, mais les frais de port représentaient un coût frauduleux.
Jennifer Aniston vend des MacBook Pro pour 10 dollars
L’iconique actrice de ‘Friends’ annonce que 10 000 personnes obtiendront un MacBook Pro pour 10 dollars lors du plus grand tirage au sort de cet appareil de l’histoire. Évidemment, il s’agit d’une escroquerie qui usurpe son identité à des fins frauduleuses.
Si heureux d’annoncer que je viens de gagner le plus grand tirage au sort de MacBook Pro de Jennifer Aniston 😍 pic.twitter.com/Se78tv231h
— Je mesure 2,01 m (@taylorprobably) 23 janvier 2024
Lamine Yamal vous rend riche
En France, les footballeurs sont très connus, ils sont donc aussi victimes de deepfakes. Après Leo Messi, nous avons le cas de Lamine Yamal. Dans une annonce frauduleuse, sa voix est usurpée pour déclarer qu’il a lancé sa propre application pour « rendre tous les Espagnols riches ». La vidéo de l’interview existe, mais tout comme dans le cas de Messi, la voix originale est remplacée par une fausse. Il existe également un autre deepfake utilisant une vidéo falsifiée.
et Lamine fait des promotions pic.twitter.com/dNQrbh0JEE
— alexnohate (@alexnohate) 19 juillet 2024
David Broncano dit adieu à sa carrière
En mars, X a été inondé de publications sponsorisées montrant le comédien se faisant arrêter dans des montages réalisés par IA avec des titres tels que « Est-ce la fin de sa carrière ? » ou « Je ne savais pas qu’il était filmé ! ». Si l’on cliquait dessus, nous étions redirigés vers des sites falsifiés de médias, comme RTVE ou El Mundo, où étaient publiées des interviews fausses dans lesquelles Broncano disait à son interlocuteur que la clé pour devenir riche était d’utiliser une plateforme appelée Trade 500 Lidex.
⚠️ Broncano dément la nouvelle ⚠️
Vous aurez vu qu’il a été TT toute la journée, aujourd’hui il devait s’exprimer. pic.twitter.com/Pgd9AZcorG
— La Résistance par M+ (@LaResistencia) 7 mars 2024
Cela est également arrivé à d’autres célébrités et influenceurs espagnols, comme Laura Escanes ou Cristina Pedroche.
Tom Hanks annonce un plan dentaire
L’acteur a dû clarifier sur Instagram qu’il n’avait pas promu un plan dentaire via IA. « Faites attention ! Il y a une vidéo de moi qui circule promouvant un plan dentaire avec une version IA de moi. Je n’ai rien à voir avec cela. » a-t-il déclaré sur le réseau social.
D’autres deepfakes de célébrités
Les six précédents sont les plus marquants que nous avons rassemblés, mais il y a aussi d’autres cas pertinents. Parmi eux, on trouve des exemples surréalistes, comme Felipe VI demandant aux Espagnols de télécharger une application après un discours. Il y a également de la cohérence, comme Mr. Beast affirmant qu’il va vous offrir un iPhone 15 Pro ou la falsification de voix autorisées dans l’information, comme la présentatrice Sandra Golpe présentant une crème faciale miraculeuse.
Beaucoup de gens reçoivent cette publicité de deepfake sur moi… les plateformes de médias sociaux sont-elles prêtes à faire face à la montée des deepfakes IA ? C’est un problème sérieux pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) 3 octobre 2023
L’IA facilite leur création
Elle a des fins positives, comme lutter contre la solitude ou créer des médicaments, mais aussi négatives. Parmi ces dernières figurent le clonage sans autorisation et à des fins frauduleuses de l’image et de la voix de célébrités, ce que l’on appelle deepfake. Attention, car un deepfake n’a pas nécessairement à être négatif, il peut être amusant s’il est bien régulé, mais dans ce cas, il est utilisé à des fins frauduleuses.
Les criminels n’ont besoin que d’un fragment de 15 secondes de voix pour la cloner. C’est pourquoi il existe des escroqueries utilisant la voix de vos proches ou amis, mais aussi de célébrités, dont les discours sont faciles à obtenir.
Il existe des dizaines de programmes et d’applications capables de cloner des voix et des vidéos. De plus, les compétences informatiques requises sont minimales, ce qui permet à n’importe qui de s’y mettre. Certains deepfakes ne sont pas très crédibles, mais d’autres ont déjà été utilisés avec succès pour des escroqueries multimillionnaires au sein d’entreprises.
Comment détecter un deepfake
Plus important que de détecter des deepfakes est de se méfier sur Internet des promotions qui semblent trop belles. Personne ne va offrir 10 000 MacBook Pro pour 10 dollars, alors qu’ils peuvent atteindre 4 300 dollars.
De même, il existe certaines clés pour détecter un deepfake :
- Voix monotone : la voix des deepfakes n’est pas encore suffisamment réaliste. Si nous y prêtons attention, nous remarquerons qu’il y a quelque chose qui ne va pas, et de plus, elle peut avoir un accent étrange ou vocaliser difficilement.
- Mouvements étranges : si un deepfake est une vidéo, comme dans le cas de Taylor Swift, son corps effectuera des mouvements étranges. Il clignotera à peine ou certaines parties du corps vont se déplacer de manière étrange. Un des aspects sur lesquels il est le plus judicieux de se concentrer est l’intérieur de la bouche, car les dents, la langue et d’autres éléments ne sont généralement pas correctement recréés.
- Desynchronisation entre audio et vidéo : une autre clé pour le détecter est si l’audio ou la narration sont décalés.
- Clarté de la vidéo : dans la plupart des vidéos entièrement deepfake, la clarté est plus faible que celle d’un enregistrement normal. Elles ont un aspect flou.