Une vidéo montre une infirmière en larmes qui affirme avoir été licenciée pour avoir publié ses opinions sur l’immigration en ligne. Un agriculteur accuse le gouvernement travailliste de détruire délibérément l’agriculture britannique au profit de la viande étrangère importée. Un homme regarde des migrants arriver sur les côtes anglaises et prétend qu’ils reçoivent un logement de luxe dès leur arrivée. Ces vidéos politisées et clivantes sur le Royaume-Uni cumulent des millions de vues, mais elles sont toutes créées avec une intelligence artificielle et produites par des personnes situées à plus de 8 000 kilomètres de là.
La page, intitulée Life in Britain, compte plus de 100 000 abonnés sur Facebook. Bien que toutes ses vidéos soient générées par IA, aucune ne porte d’avertissement de la part de Facebook, la société mère Meta, et ce malgré le signalement effectué par The Independent il y a plus d’un mois. Les informations de transparence de Facebook sur la page indiquent que les gestionnaires de celle-ci se trouvent au Sri Lanka, alors qu’ils produisent un contenu destiné au public britannique.
Les experts de Resemble AI, une entreprise de détection des deepfakes et des contenus synthétiques, ont déclaré à The Independent que ce compte pourrait faire partie d’une campagne d’influence générée par IA. Cette campagne viserait à amplifier les récits politiques britanniques en ligne. Resemble AI a analysé les vidéos pour le journal et a trouvé plusieurs signes de leur génération par IA, notamment un son peu naturel et des défauts visuels comme des visages déformés. L’entreprise a estimé que les vidéos avaient 97 % de chances d’avoir été créées par IA.
« Il n’est pas rare de subir des attaques d’ingénierie sociale provenant d’entités étrangères. Vous recevez des appels d’arnaque qui ne viennent pas du tout du Royaume-Uni. C’est très similaire », a expliqué Zohaib Ahmed, fondateur de Resemble AI. Facebook a indiqué à The Independent le 29 mai qu’il enquêtait sur le compte après avoir été alerté, mais il n’a fourni aucun délai pour l’enquête ni précisé si des mesures seraient prises. Interrogé sur la monétisation de ce compte, Facebook n’a pas répondu.
Le docteur Lukasz Olejnik, chercheur principal invité au département d’études sur la guerre du King’s College de Londres, a déclaré au journal : « L’utilisation de contenus d’influence et de propagande générés par IA est en hausse. La vidéo générée par IA est particulièrement importante car elle peut créer de fausses preuves visuelles faciles à partager, émotionnellement convaincantes et difficiles à vérifier rapidement. Ces outils peuvent être utilisés par des individus, des acteurs étatiques et non étatiques coordonnés. »
Le docteur Olejnik a ajouté : « Pour le Royaume-Uni, le risque n’est pas seulement qu’un électeur croie une seule fausse vidéo, mais que l’exposition répétée affaiblisse la confiance dans les institutions, le journalisme, les élections et les décisions de politique étrangère. Cela inclut la confiance dans la direction du pays, y compris en temps de crise. Cela crée des opportunités pour des acteurs extérieurs d’exploiter des débats politiques sensibles, comme la sécurité, la migration, les manifestations, la politique de défense et les relations avec les alliés. »
Les ramifications potentielles de ce type de contenu en ligne n’ont pas échappé à l’attention. L’année dernière, des recherches soumises à la commission des affaires intérieures de la Chambre des communes ont montré que des images générées par IA représentant les musulmans comme une menace avaient alimenté les émeutes de Southport à l’été 2024. Des comptes d’extrême droite auraient diffusé en ligne des images manipulées renforçant les stéréotypes racistes, notamment des représentations de musulmans portant des armes à feu ou des ceintures d’explosifs.
Une étude de la London School of Economics a révélé que les publications sur les réseaux sociaux contenant ces représentations visuelles de théories du complot racistes étaient amplifiées de 30 % de plus que les autres. Les chercheurs de la LSE ont averti que l’essor des contenus générés par IA, combiné à la manière dont les algorithmes des réseaux sociaux récompensent les contenus clivants, accélère la radicalisation et rend les idées extrémistes plus visibles.
L’essor de la désinformation en ligne a poussé le maire de Londres, Sir Sadiq Khan, à promettre le mois dernier sept millions d’euros pour lutter contre ce problème. Il a déclaré que la capitale avait subi une « attaque incessante et sans précédent de mensonges et de haine ». Cette annonce fait suite à un rapport de la Greater London Authority qui a constaté une augmentation de 200 % des publications en ligne dépeignant Londres comme une ville en déclin et de plus en plus dangereuse au cours des deux dernières années.
« Si je voulais influencer des décisions, la façon la plus simple de le faire à ce stade serait de créer du contenu génératif par IA, de créer de faux comptes IA sur les plateformes de médias sociaux. Ensuite, vous avez un canal de distribution », a déclaré M. Ahmed. Il a ajouté : « Ces algorithmes feront remonter ce contenu à des millions de personnes pour des centaines de milliers de millions de vues presque instantanément. Cela devient donc presque un jeu mathématique. »
Plus tôt cette année, le Conseil de surveillance indépendant de Meta a averti que l’entreprise devrait étiqueter les contenus générés par IA sur sa plateforme de manière plus proactive et « plus fréquente ». Le conseil a recommandé que Meta investisse dans des outils de détection plus puissants pour les contenus générés par IA.
Le ministère de la Science, de l’Innovation et de la Technologie a déclaré : « Les plateformes ont des obligations légales pour lutter contre les contenus illégaux, y compris les documents qui constituent une incitation à la violence ou à la haine. Nous attendons d’elles qu’elles prennent des mesures énergiques pour protéger les utilisateurs. » Facebook dispose de directives claires qui interdisent les discours de haine, les informations erronées nuisibles, les comportements trompeurs et les activités inauthentiques coordonnées. La plateforme affirme prendre des mesures contre les contenus qui violent ces politiques.
Plus tôt cette année, la plateforme technologique a supprimé plusieurs pages Facebook basées au Vietnam, décrites comme des « fermes de contenu ». Cette action faisait suite à une enquête de BBC Wales qui avait révélé que ces pages diffusaient de faux récits sur la politique britannique à l’aide de deepfakes. Les propriétaires de la page Facebook Life in Britain ont été contactés pour obtenir des commentaires.