Nous avons fait un appel vidéo avec Brad Pitt mais il ne le sait toujours pas

Abbiamo fatto una videochiamata con Brad Pitt ma lui ancora non lo sa

Il suffit d’ouvrir le programme Fal.ai et de cadrer votre visage pour vous transformer en quelqu’un d’autre. Pour l’instant, l’intelligence artificielle fonctionne bien seulement avec les célébrités, mais dans le futur, elle pourrait être utilisée pour les vols d’identité et la création de deepfakes pornographiques.

Nous avons fait un appel video avec Brad Pitt mais

Nous allumons la caméra et de l’autre côté de l’écran se trouve Brad Pitt, il nous salue et sourit. « Je ressemble vraiment à lui », dit mon collègue en bougeant lentement ses mains comme s’il se regardait dans un miroir pour la première fois. Le truc est simple, pour le transformer en acteur, il a suffi d’une commande. Nous avons utilisé Fal.ai, une interface web qui génère des deepfakes en temps réel grâce à l’intelligence artificielle (IA). Nous avons cadré le visage avec la caméra de l’ordinateur, écrit « une image de Brad Pitt », et appuyé sur Turn On. Ça fonctionne, mais pas avec tout le monde.

Il reproduit bien le visage des acteurs américains comme George Clooney, Johnny Depp ou Brad Pitt. Nous avons également essayé avec Mario Draghi, Elon Musk, le Pape François, Rihanna et Taylor Swift, moins convaincants. Les expressions sont encore artificielles, les visages se déforment, perdent souvent leurs traits, et l’IA ne parvient pas encore à reproduire correctement une femme qui essaie de se transformer en homme. Disons qu’il n’est pas encore possible d’utiliser Fal.ai pour faire un appel vidéo en se faisant passer pour quelqu’un d’autre. Mais ce n’est qu’une question de temps.

La principale force de l’interface web est sa capacité à maintenir la physionomie en temps réel en imitant les expressions, bien qu’elle ait du mal avec le mouvement des lèvres et nécessite de bouger très lentement. Pour utiliser Fal.ai, il suffit d’écrire le nom du personnage célèbre dans la barre de recherche, des détails peuvent également être ajoutés, par exemple « en costume élégant avec une cravate » ou « avec une casquette de baseball », auquel cas l’intelligence artificielle modifiera certains détails à sa guise.

Par exemple, dans la vidéo de Brad Pitt, elle a remplacé le bracelet par une montre et modifié le motif du pull en l’éclaircissant. L’intelligence artificielle renforce les technologies des deepfakes, et donc les applications et les programmes qui auraient pu n’être qu’un simple jeu amusant ouvrent désormais de nouveaux problèmes de confidentialité, d’éthique et de sécurité.

Les nouveaux programmes sont un danger pour les escroqueries

Un programme comme Fal.ai pourrait par exemple être utilisé pour des vols d’identité. L’intelligence artificielle est déjà utilisée pour cloner les voix des personnes. Selon les données de la Federal Trade Commission, aux États-Unis, en 2022, plus de 36 000 personnes ont signalé avoir été victimes d’une fraude commise par quelqu’un se faisant passer pour un ami ou un membre de leur famille. Cette tromperie fonctionne mieux au téléphone, et en effet, il y a eu 5 100 cas de fraude par téléphone, et les criminels ont réussi à extorquer 11 millions de dollars. Maintenant que l’intelligence artificielle est capable de reproduire fidèlement la voix des gens en utilisant un court exemplaire audio, il est encore plus facile de tromper les victimes. La vidéo est la prochaine étape.

Le deepfake pornographique

Il existe déjà une longue littérature sur les cas de vidéos pornographiques deepfake. Le phénomène a des racines profondes, mais avec les développements de l’intelligence artificielle, il est devenu encore plus facile de créer ce type de contenu sur le web. La technologie est devenue l’outil parfait pour créer du matériel pornographique. Il existe déjà de nombreuses vidéos érotiques fake de célébrités qui circulent.

Par exemple, FaceMega, une application qui remplace les visages et les corps en utilisant l’intelligence artificielle, a lancé une campagne publicitaire provocatrice montrant Emma Watson et Scarlett Johansson se déshabillant devant la caméra. Un deepfake pornographique de Michelle Obama est également apparu sur Reddit, montrant l’ancienne première dame dans une chambre rouge. Dans ces trois cas, le visage a été monté sur le corps d’une actrice porno, et avec une IA capable de modifier et de remplacer la physionomie en temps réel, comme Fal.ai, cela devient encore plus simple et immédiat.