Meta n’a pas encore lancé les balises pour signaler les contenus créés avec l’intelligence artificielle, mais promeut maintenant aussi des images trompeuses qui mettent en danger les utilisateurs. Les fraudeurs cherchent en effet leurs victimes parmi les commentaires, essayent souvent de voler des données, des comptes ou de vendre des produits inexistants.
FACEBOOK | Statue de Jésus faite de spaghetti (photo générée par l’IA)
Des algorithmes de recommandation sur les réseaux sociaux propagent des images étranges générées par l’intelligence artificielle sur le thème religieux. Les photos sont devenues virales surtout sur Facebook, accumulant des likes et des files de « Amen » parmi les commentaires (probablement écrits par des bots). Elles ont reçu des centaines de millions d’interactions sur la plateforme, selon une nouvelle analyse de l’Observatoire Internet de Stanford qui a étudié 120 pages de ce type. Des pages gérées par des spammeurs et des fraudeurs.
« Les images sont captivantes : certaines sont belles, certaines sensationnelles, et certaines sont tout simplement étranges », explique Renée DiResta, chercheuse à l’Université de Stanford et auteure de l’étude. « Les images de Jésus sont devenues une ressource facile pour attirer l’attention, et en réalité la publication de contenus générés par l’intelligence artificielle est récompensée par les systèmes de recommandation qui semblent promouvoir les images », ajoute DiResta.
Ces pages sont devenues une sorte de test pour les fraudeurs : ceux qui interagissent sans reconnaître l’intervention de l’IA sont des cibles plus faciles. Ils visent et écrivent. Au-delà des images étranges, tout devient plus alarmant lorsque l’on commence à lire les commentaires.
Que disent les publications sur Facebook
Les images se concentrent sur le même thème et leur esthétique est homogène, sur-saturée avec des couleurs vives. Souvent à côté des étranges statues de Jésus, il y a aussi des enfants et la légende dit « merveilleuses œuvres de ces enfants d’Afrique », ou « le meilleur artiste du village ». Sous l’image, un enfant noir se tient près d’un Jésus Christ fait de spaghetti, et ils écrivent : « Merci à tous ceux qui apprécient mon art ». Aucune image ne porte une étiquette signalant sa nature artificielle.
Par-delà la nouvelle tendance religieuse, différentes pages Facebook tentent de rompre l’algorithme en publiant des photos d’enfants, d’animaux et de paysages. « Les pages traversent souvent des périodes de tendances, par exemple avec des sculptures de neige, des morceaux de pastèque découpés, des plats de sushi disposés artistiquement, ils ont tous un style très similaire », lit-on dans l’article.
Comment fonctionne l’arnaque
L’arnaque est sous les yeux de tous. Les administrateurs de la page cherchent en effet leurs victimes parmi les commentaires. Les utilisateurs qui écrivent sous les publications sont contactés par des messages similaires : « Je suis français et il y a plus de 13 ans que mon mari est décédé dans un accident de voiture. Après sa mort, j’ai hérité de la fortune de mon mari. Compte tenu de mon âge avancé et de mon état de santé, j’ai décidé d’aider financièrement les personnes qui ont besoin d’une aide financière pour leurs besoins, puisque je n’ai pas d’enfants qui pourraient bénéficier de mon héritage et je ne veux pas que le gouvernement gèle ma richesse après ma mort. Donc, si vous êtes intéressé par une activité économique, envoyez-moi un message », accompagné du numéro de téléphone.
« Les comptes frauduleux interagissent occasionnellement avec les commentateurs crédules sur les publications, demandant parfois des informations personnelles à leur sujet, d’autres fois ils essaient de vendre des produits qui n’existent pas », peut-on lire dans l’étude. « Le mécanisme de sélection est simple, si quelqu’un croit que ces fausses images sont vraies, il est probablement plus naïf et plus facile à tromper ».
Le paradoxe de Meta
« Nous soupçonnons que ces niveaux élevés d’engagement sont en partie guidés par l’algorithme de recommandation de Facebook », explique DiResta. En effet, Meta a modifié il y a deux ans son algorithme pour rendre ses réseaux sociaux plus similaires à TikTok. L’objectif était « d’aider les personnes à trouver et à profiter de contenus intéressants, qu’ils aient été produits par des personnes à qui ils sont connectés ou non ».
En d’autres termes, créer une section « Pour vous ». Actuellement, parmi les recommandations, se trouvent également des sculptures de Jésus faites de calamars, de moules et de crevettes, et c’est un problème. Meta n’a pas encore lancé les balises pour l’intelligence artificielle, mais maintenant elle promeut également des contenus trompeurs qui mettent en danger les utilisateurs.
FACEBOOK | Statue de Jésus sur un cheval en plastique (image générée par l’IA)