En bref : Pour la deuxième fois en un peu plus de six mois, Microsoft a émis un avertissement concernant l’utilisation par la Chine de l’IA générative pour semer la perturbation aux États-Unis au cours de cette année électorale. Des groupes parrainés par l’État, travaillant avec le support de la Corée du Nord, devraient également cibler les élections en Corée du Sud et en Inde, après avoir lancé une campagne similaire lors de l’élection présidentielle à Taiwan en janvier.
Le rapport de Microsoft, intitulé Les acteurs de la menace en Asie de l’Est emploient des méthodes uniques, note que les campagnes chinoises ont continué à affiner le contenu généré ou amélioré par l’IA, en créant des vidéos, des mèmes et de l’audio, entre autres. Même si leur influence n’a peut-être pas beaucoup d’impact pour le moment, elle pourrait s’avérer de plus en plus efficace à mesure qu’elle devient plus sophistiquée, a déclaré Microsoft.
En septembre dernier, des analystes du Microsoft Threat Analysis Center ont souligné une campagne menée par des agents chinois qui utilisaient l’IA générative pour créer du contenu (voir exemple ci-dessous) pour des publications sur les réseaux sociaux axées sur des sujets politiquement controversés, notamment la violence armée et le dénigrement des personnalités et symboles politiques américains.
Le dernier rapport examine certains contenus conspirateurs créés à l’aide de l’IA générative poussée par les comptes de médias sociaux chinois. Cela inclut une affirmation du groupe Storm 1376 soutenu par Pékin en août 2023, selon laquelle le gouvernement américain avait délibérément déclenché les incendies de forêt à Hawaï en utilisant une arme météorologique de qualité militaire. Le même groupe a publié des théories du complot liées au déraillement ferroviaire du Kentucky en 2023 et a tenté d’attiser la Discord au Japon et en Corée du Sud.
La tempête 1376 a été très active lors des élections taïwanaises de janvier, que Microsoft qualifie de « simulation » pour les élections à venir dans d’autres pays. Il a publié un faux audio du fondateur de Foxconn, Terry Gou, qui s’était retiré de la course en novembre, soutenant un autre candidat. Le groupe a également publié plusieurs mèmes générés par l’IA sur l’éventuel vainqueur William Lai, favorable à la souveraineté. Il y a également eu une utilisation accrue de présentateurs de nouvelles générés par l’IA, créés par l’outil CapCut du propriétaire de TikTok, ByteDance, dans lesquels les faux présentateurs faisaient des affirmations non fondées sur la vie privée de Lai, notamment selon lesquelles il était engendré d’enfants illégitimes.
L’un des plus gros problèmes dans la lutte contre l’utilisation d’une IA générative réaliste pour diffuser de la désinformation est que de nombreuses personnes refusent de croire que ce soit faux, en particulier lorsque ce contenu est conforme à leurs croyances et valeurs.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
