Une voix monocorde, aucune pause pour respirer et aucun bruit de fond : c’est ainsi que les experts ont découvert que l’enregistrement était en réalité un faux. Mais la vengeance de l’enseignant d’éducation physique, accusé par le directeur de l’école d’avoir payé un ami avec l’argent de l’institution, a réussi à semer le chaos dans la petite communauté américaine.
Il s’apprêtait à embarquer dans un vol qui devait le conduire de Baltimore à Houston, mais la police l’a arrêté car il avait une arme sur lui. Après un rapide contrôle, les agents ont découvert qu’un mandat d’arrêt pesait sur l’homme. La raison n’avait rien à voir avec l’arme qu’il transportait, mais avec sa tentative (réussie jusqu’à présent) de diffamer le directeur de l’école où il travaillait en tant qu’enseignant d’éducation physique. Un plan orchestré presque à la perfection et mené grâce à l’intelligence artificielle, mais pas suffisamment pour passer inaperçu.
Que peut-on entendre dans l’audio deepfake qui a mis en cause le directeur de l’école de Pikesville ?
Dans l’audio qui a circulé dans la communauté de Pikesville, juste à l’extérieur de Baltimore, on entendait clairement le directeur du lycée tenir des propos racistes et antisémites. Dans l’enregistrement, le directeur s’adressait aux étudiants afro-américains de l’établissement et à la communauté juive locale. Des mots qui ont suscité un scandale et ont conduit à son éviction immédiate de l’école, suscitant la crainte et les protestations des parents et du reste de la communauté.
Cependant, les mots incriminés n’ont jamais été prononcés par le directeur Eric Eiswert, mais avaient été fabriqués de toutes pièces par Dazhon Darien, un enseignant de trente et un ans qui avait décidé de se venger du directeur d’école pour une enquête le concernant de près. En effet, Darien faisait l’objet d’une enquête des autorités scolaires pour avoir indûment payé un de ses amis, un entraîneur de basket-ball, avec des fonds scolaires et sans passer par la procédure administrative normale. Une accusation portée par le directeur, qui l’a poussé, en janvier dernier, à se venger.
Quelles sont les bizarreries qui ont éveillé les soupçons de la police ?
Les recherches pour trouver l’outil approprié à son plan, il les a faites sur le réseau scolaire lui-même. Quel générateur de deepfake audio il a finalement utilisé n’est pas encore clair, mais les options en ligne pour simuler la voix de personnes plus ou moins célèbres ne manquent pas. Les conséquences, cependant, se sont rapidement fait sentir. Entre les enseignants craignant que des microphones aient été placés autour de l’école, les employés demandant à cor et à cri une augmentation des agents de police pour assurer la sécurité de l’école, et les parents qui ont commencé à transférer leurs enfants vers d’autres établissements, le chaos est rapidement arrivé à la Pikesville High School.
Le directeur Eiswert a été écarté, mais dès le départ, certains experts ont souligné quelques bizarreries dans les enregistrements qui ont été diffusés en ligne : le ton monocorde, l’absence de bruit de fond, presque aucune pause dans le discours ou de respiration audible ont également éveillé les soupçons de la police, qui a commencé à enquêter sur l’affaire. Indice après indice, la police a réussi à reconstituer le parcours qui a conduit à la diffusion virale de l’audio deepfake. Le premier à le diffuser a été, comme on peut le deviner, Darien lui-même, qui a utilisé une adresse e-mail qui a fini par être reliée à lui-même. Il l’a d’abord partagé avec deux autres enseignants. Ce fut une collègue qui asséna le coup fatal, en transmettant l’audio à un étudiant qui aurait assurément assuré la « viralité » en ligne de l’audio.
« L’audio a eu des répercussions profondes. Non seulement il a entraîné l’éviction temporaire d’Eiswert de l’école, mais il a également provoqué une vague de messages haineux sur les réseaux sociaux et de nombreux appels à l’école », a écrit la police dans le document formulant l’accusation contre Darien, selon le Baltimore Banner. Tandis que les deux protagonistes de cette histoire devront faire face aux conséquences concrètes de l’audio deepfake, un nouveau chapitre s’ouvre sur les mauvais usages de l’intelligence artificielle.