Pourquoi est-ce important: L’IA générative présente un énorme potentiel d’utilisation abusive. On pense notamment aux escroqueries et aux cyberattaques contre les systèmes financiers. Cependant, une nouvelle étude indique que la principale catégorie d’abus consiste à influencer l’opinion politique avec de faux contenus. Cela a posé problème lors des campagnes précédentes. Nous pouvons nous attendre à ce que cela devienne encore plus répandu au cours de ce cycle électoral.
Une nouvelle étude de Google DeepMind montre que le contenu politique généré par l’IA est bien plus susceptible d’être une mauvaise utilisation de la technologie qu’une cyberattaque. DeepMind a basé ses conclusions sur une analyse des cas signalés d’utilisation abusive de GenAI entre janvier 2023 et mars 2024. En fait, une vidéo sur Joe Biden avait circulé l’année dernière même si elle avait été déclarée deepfake.
Il y a de fortes chances que nous voyions davantage d’exemples de cette forme de manipulation à mesure que la saison des campagnes politiques s’intensifie. L’étude a révélé que façonner l’opinion publique était l’objectif le plus courant de l’exploitation des capacités de GenAI, représentant 27 % de tous les cas signalés. Les acteurs malveillants pourraient déployer plusieurs tactiques pour déformer la perception du public des réalités politiques, notamment en usurpant l’identité de personnalités publiques, en créant des médias falsifiés et en utilisant des personnages numériques synthétiques pour simuler un support populaire pour ou contre une cause – autrement connu sous le nom d’astroturf.
Les mauvais acteurs pourraient facilement manipuler des vidéos légitimes pour montrer des candidats électoraux visiblement âgés et inaptes à exercer des fonctions dirigeantes. Bien que cela soit plus complexe, un artiste expérimenté en IA pourrait créer une vidéo à partir de zéro qui mettrait son adversaire dans une position compromettante.
Le rapport note qu’une tendance émergente, bien que moins répandue, est l’utilisation non divulguée des médias générés par l’IA par les candidats politiques et leurs partisans pour se forger une image publique positive. Un exemple est celui d’un shérif de Philadelphie qui a utilisé l’IA générative pour fabriquer des nouvelles positives pour son site Web de campagne.
Les acteurs politiques utilisent également l’IA générative pour une sensibilisation politique hyper ciblée, par exemple en simulant la voix d’un homme politique avec une haute fidélité pour atteindre les électeurs dans leur langue maternelle ou en déployant des appelants automatisés de campagne alimentés par l’IA pour engager des conversations personnalisées avec les électeurs sur des questions tests.
Ces tactiques peuvent sembler familières car les campagnes politiques les ont déjà utilisées bien avant que l’IA générative n’existe. La différence réside dans le fait que les progrès rapides des modèles d’IA récents confèrent à ces tactiques séculaires une nouvelle puissance et démocratisent leur accès.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
