Un groupe de fraudeurs a réussi à escroquer des chefs d’entreprise italiens en utilisant une technologie d’intelligence artificielle pour cloner la voix d’un ministre. Leur stratagème a consisté à demander un versement d’un million d’euros pour libérer des journalistes enlevés, suscitant des inquiétudes sur la sécurité des communications.
Divers entrepreneurs italiens ont été contactés par un groupe de fraudeurs qui ont prétendu être le personnel du ministre de la Défense, Guido Crosetto. Ils ont cloné sa voix et demandé un million d’euros sur un compte à Hong Kong pour payer la rançon nécessaire à la libération de journalistes italiens. Dans un cas, ils ont réussi à obtenir le versement.
La fraude utilisant la voix de Guido Crosetto suit un schéma classique. Au cours de la dernière semaine, plusieurs entrepreneurs italiens ont reçu un appel directement du ministre de la Défense. Une demande peu commune. À chacun, il était demandé de verser environ un million d’euros sur un compte basé à Hong Kong. L’argent était censé servir à payer la rançon pour libérer des journalistes italiens enlevés au Moyen-Orient.
Évidemment, tout cela était faux. La voix de Guido Crosetto avait été clonée à l’aide d’intelligence artificielle, les noms des membres de son personnel étaient inventés et la construction de toute l’histoire imitait celle de Cecilia Sala. La liste des entrepreneurs contactés est longue. Parmi eux figurent Giorgio Armani, la famille Beretta et la famille Aleotti, propriétaire du groupe Menarini, ainsi que Massimo Moratti, qui a déclaré : « Tout semblait vrai ».
Nul n’a cru à l’escroquerie. Un seul cas, non spécifié, a effectivement vu un million d’euros versés. Mais comment a-t-il été possible de cloner la voix de Crosetto et d’organiser toute cette fraude ? Et surtout, comment savoir si l’appelant est réel ou créé par intelligence artificielle ?
Le schéma de la fraude du PDG
Le schéma de fraude décrit ici est une variante de la fraude du PDG. En résumé, tout repose sur le fait de contacter une personne avec laquelle on a un rapport de pouvoir ou, à tout le moins, d’influence. On lui demande d’effectuer une tâche urgente, souvent sans se soucier des procédures, puis on espère que la personne contactée n’osera pas douter de ce qui est requis.
Tout cela est amplifié par les techniques de Spoofing, qui sont des pratiques utilisées pour se faire passer pour une autre personne. Dans le cas de Crosetto, un système d’intelligence artificielle a été utilisé pour reproduire sa voix. On ne sait pas s’il s’agissait d’un message enregistré ou, plus probablement, d’un filtre vocal permettant au fraudeur de modifier sa voix en direct.
Comment éviter la fraude avec des voix clonées
Le point préoccupant est qu’il n’existe aucun moyen technique pour savoir si, de l’autre côté du fil, se trouve un deepfake. Ou plutôt, il n’y en avait pas jusqu’à présent. Au cours des derniers mois, certains dispositifs sont arrivés sur le marché avec les premiers filtres anti-deepfake. Actuellement, ils ne sont mis en œuvre que pour les appels vidéo et permettent de déterminer si la personne avec qui l’on parle est réelle ou créée par l’intelligence artificielle.
Pour l’instant, en l’absence d’outils, la seule chose à faire est un exercice de vérification. Si quelqu’un vous appelle pour vous demander de l’argent, qu’il s’agisse d’un proche pour 100 euros ou d’un ministre de la République pour un million d’euros, la meilleure chose à faire est de procéder à une double vérification par un second canal. Si c’est un proche, vous pouvez le rappeler d’un autre numéro. Si c’est votre supérieur, demandez à une autre personne de l’entreprise occupant un rôle de responsabilité. Si c’est un représentant des institutions, vous pouvez contacter les canaux officiels.
Dans la plupart des cas, ces fraudes ne reposent pas sur des études approfondies des relations sociales des victimes. Un bon conseil pourrait être de demander simplement un détail lors de l’appel que vous savez être privé : d’un souvenir d’enfance à la position de la machine à café.