Actuellement, l’État islamique génère également des vidéos avec l’intelligence artificielle : comment fonctionne la nouvelle propagande

Un avatar généré avec la technologie deepfake et des vidéos de propagande officielles de l’État islamique : c’est ainsi qu’un utilisateur a apporté sa contribution à la cause djihadiste sur une plateforme de messagerie. « Il s’agit d’un moyen de faciliter la diffusion de matériel propagandiste auprès d’un public occidental plus large ».

GNET | Un frame du vidéo publié par un sympathisant de l’ISIS et créé avec l’intelligence artificielle

Là où il y a un outil, il y a un moyen de l’utiliser mal. Et depuis plus d’un an, l’humanité collectionne les mauvaises façons d’utiliser l’intelligence artificielle. Des façons qui soulèvent des doutes éthiques, comme ramener les morts à la vie pour pouvoir leur parler une dernière fois, à celles qui peuvent compromettre la réputation d’autrui (par exemple, le cas du directeur renvoyé pour un faux enregistrement raciste).

, mais aussi un moyen de créer et diffuser du matériel de propagande en faveur de l’ISIS. Une nouvelle expérience technologique qui pourrait ouvrir la porte à une nouvelle façon de recruter de futurs djihadistes.

Le faux journal télévisé diffusé par un sympathisant de l’ISIS

La première vidéo a été publiée quelques jours après l’attaque au Crocus City Hall, la salle de concert de Moscou où 145 personnes ont été tuées par quatre terroristes tadjiks. À l’écran, un homme vêtu d’habits militaires qui parle justement de l’attaque au cœur de la Fédération russe. À mi-chemin entre un présentateur et un correspondant de guerre, il s’agit en réalité d’un avatar généré avec une technologie rappelant celle des deepfakes. Le visage de l’homme qui parle, les lèvres qui bougent tandis qu’il délivre ce qui semble être un bulletin d’information en langue arabe. Tout est généré par une intelligence artificielle.

GNET | Un frame du vidéo publié par un sympathisant de l’ISIS et créé avec l’intelligence artificielle

Svelata la nuova versione di ChatGPT: si chiama ChatGPT-4o e vuole parlare come un umano

images réelles prises dans les zones où les terroristes sont toujours présents. Peut-être que plusieurs modèles d’intelligence artificielle ont été utilisés pour générer les différentes parties de la vidéo.

L’objectif, cependant, est unique : diffuser la propagande de l’État islamique. Les nouvelles diffusées dans le faux journal télévisé proviennent directement des organes de presse officiels du groupe terroriste. Un choix délibéré pour « accélérer et faciliter la diffusion d’informations et de matériel propagandiste à un public occidental plus large », comme l’indique l’étude publiée dans Global Network on Extremism and Terrorism.

Le problème théologique des deepfakes pour l’Islam

rendre la vidéo théologiquement cohérente« , écrivent les chercheurs. Des suggestions qui n’ont pas été ignorées. Dans la cinquième vidéo de propagande, le visage de l’avatar a été obscurci pour ne pas tomber dans le péché : en effet, toute représentation humaine est interdite dans l’Islam. Et la génération d’un deepfake soulève des questions théologiques.

Il s’agit du premier cas documenté où un partisan de l’État islamique utilise l’intelligence artificielle pour diffuser de la propagande, ce qui rappelle une utilisation similaire qui a eu lieu en décembre. Cette fois, c’était un groupe de hackers pro-iraniens qui a interrompu une émission émiratie pour diffuser un faux journal télévisé généré par l’IA, où un avatar-journaliste annonce un reportage, montrant ensuite des images (réelles) enregistrées à Gaza. Une autre « expérience » qui donne un aperçu de la façon dont les futures guerres pourraient être combattues.