Créer le profil de Marta a été très simple, et après 15 minutes d’inscription, j’avais déjà sept chats ouverts. Sur Tinder et Bumble, j’ai rencontré des avocats, des serveurs, des gendarmes et des chirurgiens, et tous m’ont pris pour une vraie fille.
Il est 17h56, il reste quatre minutes, puis Matteo sortira du bureau. Il prend son téléphone, le déverrouille, fait défiler, le ferme. Il se lève, une notification arrive, il l’ouvre : « Salut, je voulais utiliser une question pré-enregistrée pour briser la glace, mais elles sont toutes terribles. Donc je te demande, quelle est la pire selon toi ? ». C’est Marta qui écrit, il l’a fait matcher sur Bumble à 17h04. Cheveux foncés, 29 ans, enseignante.
Il parcourt le profil, il y a une photo d’elle au parc, une avec une amie, puis l’image d’un chien, un chien bâtard cendré. Elle est passionnée de cuisine, de livres et de photos. Elle aime les films d’horreur, ne boit qu’en bonne compagnie, est agnostique, et pense qu’une cigarette de temps en temps ne fait pas si mal. Il lui répond, ils commencent à parler. Marta plaît à Matteo. Il plaisante, raconte, demande, il suffit de 19 messages pour décider : « Écoute, et si on prenait quelque chose à boire ensemble ? J’aime parler avec toi, j’aimerais le faire en personne ». Il n’y a qu’un problème. Marta n’existe pas, je l’ai créée.
J’ai demandé à ChaGPT de générer le profil parfait pour une application de rencontres, pour les photos, j’ai utilisé Midjourney. En moins d’une demi-heure, j’ai tout téléchargé sur Tinder et Bumble, et à 14h04 j’ai fait mon premier Match. Puis les autres sont arrivés. J’ai passé un mois sur les applications de rencontres, j’ai matché avec 67 gars, échangé des messages avec 53. J’ai rencontré des avocats, des étudiants, des chefs, des gendarmes, des enseignants de support, des sommeliers, des voyageurs professionnels, des chirurgiens et des serveurs de bière. Marta était une fille artificielle, et pourtant personne ne s’en est rendu compte.
Comment créer des images avec l’intelligence artificielle : les meilleurs générateurs d’IA d’images et comment les utiliser
Le terrain prédateur parfait
Il n’y a rien d’original dans cette expérience, depuis des années les personnes sur le web créent de faux profils, pour tromper, aborder, parfois juste parce qu’ils ont honte. Je me souviens encore quand j’avais 14 ans, sur Facebook, Rocco m’a écrit, son image de profil était une photo Ian Joseph Somerhalder, l’acteur de Vampire Diaries. Il y a aussi eu des approches plus sophistiquées, mais jusqu’à récemment, une simple recherche inversée sur Google suffisait à révéler la supercherie. Avec l’intelligence artificielle, tout est différent, et les applications de rencontres sont le terrain prédateur parfait.
Les applications sont des machines hyper efficaces qui veulent maximiser les profits. On parle d’amour, bien sûr, mais même les sentiments peuvent être réduits à des pourcentages de réussite. Pour élever le niveau, on commence par la fiche : nom, prénom, âge, passions, orientation politique, désir d’avoir une famille, des enfants, des tatouages, des passions, alimentation. La liste est longue. D’un côté, ce mécanisme rassure, de l’autre, il déclenche une gamification des sentiments. Il n’est donc pas étrange de chatter avec dix ou quinze personnes en même temps, ce qui abaisse le seuil d’attention et expose au risque de devenir victime de profils fake.
Comment le profil a été créé
Revenons à Marta. La seule vraie difficulté a été de créer plusieurs images de la même personne avec l’intelligence artificielle. Le reste était très simple. D’abord, j’ai demandé à ChatGPT de générer une biographie adaptée à une application de rencontres, puis j’ai construit le profil de Marta en suivant les indications de l’IA. Pour certaines photos, j’ai utilisé Midjourney, pour d’autres ThisPersonDon’tExist, un réseau génératif antagoniste. Ce système m’a permis de créer à partir de zéro un visage réaliste n’appartenant pourtant à aucune personne réelle.
Après avoir téléchargé Tinder et Bumble, le test a commencé. Sur Tinder, ça n’a pas duré longtemps, au bout de trois jours on m’a demandé de vérifier mon profil, et j’ai été banni. Sur Bumble, en revanche, je n’ai pas eu de problèmes, j’ai réussi à matcher et à parler aux utilisateurs même sans profil vérifié. 15 minutes après l’inscription, j’avais déjà sept chats ouverts.
Les chiffres des comptes faux
Selon la Federal Trade Commission (FTC), rien qu’en 2022, 70 000 Américains sont tombés dans des arnaques romantiques, rencontrant sur les sites et les applications des escrocs qui se faisaient passer pour de vrais utilisateurs. En termes économiques, les escroqueries romantiques ont coûté environ 1,3 milliard de dollars aux victimes. L’analyse annuelle des données clients de la Lloyds Bank a montré que les cas ont augmenté de 22% par communiqué à 2022.
Avec l’introduction de l’intelligence artificielle, ces chiffres sont destinés à augmenter. Il sera de plus en plus facile de créer de faux profils qui semblent réels, il sera de plus en plus difficile de reconnaître « Marta ».