Depuis un certain temps, il existe de faux passeports, permis de conduire ou cartes d’identité, mais avec l’intelligence artificielle et les deepfakes, il est encore plus facile de tromper les contrôles d’authentification. Les escrocs utilisent en effet l’intelligence artificielle pour créer de faux documents et réaliser des vidéos réalistes qui peuvent ensuite être utilisées pour contourner les processus de vérification d’identification, par exemple lors de l’ouverture d’un compte bancaire ou de la demande d’une carte de crédit. De plus, ils exploitent également la technologie pour voler l’identité de personnes réelles ou cloner leur voix afin de contourner les systèmes d’authentification. Avec les avancées de l’intelligence artificielle générative, les escrocs n’ont plus besoin de compétences techniques avancées pour créer des deepfakes impressionnants.
Il suffit d’utiliser des modèles linguistiques de grande taille tels que ChatGPT, des logiciels de génération d’images comme Midjourney, ou des outils de clonage vocal comme ElevenLabs. Comme c’est souvent le cas avec les nouvelles technologies, les régulateurs fédéraux, les forces de l’ordre et les tribunaux ne sont pas préparés à arrêter ce type d’escroqueries, ont expliqué des experts au Washington Post.
Nous ne pouvons plus faire confiance aux systèmes d’authentification biométrique
L’authentification biométrique permet aux utilisateurs d’accéder en utilisant par exemple la numérisation des empreintes digitales, du visage ou de l’iris, et elle est considérée comme l’une des méthodes d’accès les plus sûres. Cependant, maintenant, avec les deepfakes et l’intelligence artificielle générative, les escrocs peuvent facilement créer des données biométriques synthétiques pour tromper les systèmes, permettant ainsi un accès non autorisé aux appareils, aux zones sécurisées ou aux informations sensibles.
Une nouvelle recherche de la société de conseil en gestion Gartner montre que d’ici 2026, 30 % des entreprises ne considéreront plus fiables les outils de vérification d’identité et d’authentification utilisant des systèmes biométriques, en raison de l’évolution des deepfakes générés par l’intelligence artificielle.
Les stratégies des cybercriminels
Pour contourner les systèmes, les escrocs peuvent soit tromper les systèmes de reconnaissance faciale en manipulant les images, soit exploiter la technologie de clonage vocal. Dans le premier cas, ils utilisent des images ou des vidéos deepfake générées par l’intelligence artificielle pour tromper les algorithmes de reconnaissance faciale et les faire reconnaître comme des individus légitimes. De cette manière, les cybercriminels peuvent obtenir un accès non autorisé à des comptes ou contourner les mesures de sécurité.
Cependant, les criminels peuvent également cloner la voix pour accéder à des comptes protégés par une authentification vocale, pour autoriser des transactions frauduleuses ou demander de l’aide en se faisant passer pour un parent ou un ami de la victime. Selon les données de la Federal Trade Commission, aux États-Unis, en 2022, plus de 36 000 signalements ont été effectués par des personnes trompées par quelqu’un se faisant passer pour un ami ou un membre de la famille. L’escroquerie fonctionne mieux au téléphone, avec 5 100 cas de fraude par appel, et les criminels ont réussi à extorquer 11 millions de dollars.
Le cas de Hong Kong
Un employé d’une multinationale de Hong Kong (dont le nom ainsi que celui de l’entreprise n’ont pas été divulgués) est tombé dans le piège des deepfakes. Les cybercriminels ont en effet réussi à recréer l’image du directeur financier de l’entreprise et de certains collègues, puis ont initié un appel vidéo dans lequel ils ont demandé à l’employé d’effectuer 15 transferts vers cinq comptes bancaires, pour un total de 25 millions de dollars.
« Nous avons découvert que tous les participants à la conférence étaient faux », a expliqué le superintendant Baron Chan Shun-ching à la chaîne de télévision publique RTHK. Les visages des fraudeurs avaient été modifiés à l’aide de la technologie deepfake. Lors de la conférence de presse, la police de Hong Kong a déclaré que les arrestations liées à l’utilisation de deepfakes avaient augmenté ces derniers temps.
Chan a expliqué que huit cartes d’identité volées à Hong Kong (signalées comme perdues par leurs propriétaires) avaient été utilisées pour effectuer 90 demandes de prêt et 54 enregistrements de comptes bancaires entre juillet et septembre 2023. De plus, selon la police, les deepfakes sont de plus en plus souvent utilisés pour tromper les programmes de reconnaissance faciale.