Les récents progrès de l’intelligence artificielle ont ouvert la porte à des fraudes alarmantes, où des escrocs utilisent des techniques sophistiquées pour cloner des voix familières. Face à cette menace croissante, la vulnérabilité des victimes et les défis pour les autorités soulèvent des questions cruciales sur la sécurité et la responsabilité.
Les forces de l’ordre et les tribunaux ne sont pas équipés pour freiner ce type d’escroqueries. Il est également très difficile de retrouver les criminels et de récupérer l’argent. Il n’est même pas clair si la responsabilité incombe également aux entreprises qui mettent à disposition certains outils.
Le téléphone sonne, de l’autre côté, tu entends la voix de ta mère, de ta fille, d’un ami ou d’un collègue. On te demande de l’argent parce qu’il y a une difficulté, il y a eu une urgence. Tu reconnais cette voix, et pourtant c’est un escroc qui a cloné le timbre d’une personne chère pour te piéger. Les cas sont en augmentation. Le dernier avertissement a été émis par Starling Bank. La banque a expliqué que les escrocs utilisent l’intelligence artificielle pour reproduire la voix d’une personne. Pour cela, il suffit d’un enregistrement de trois secondes. Ils peuvent facilement l’extraire d’une vidéo publiée sur les réseaux sociaux.
« Les personnes publient régulièrement en ligne des contenus contenant des enregistrements de leur voix, sans se rendre compte que cela les rend plus vulnérables aux escrocs », a expliqué Lisa Grahame, responsable de la sécurité informatique chez Starling Bank. « Les escrocs appellent les amis et les familles de la personne et utilisent la voix clonée pour simuler un appel afin de demander de l’argent ».
Grâce à des outils en ligne facilement accessibles et peu coûteux, il est possible de reconstruire la voix de quelqu’un avec une grande fidélité, au point même que les proches ne réussissent pas à reconnaître la contrefaçon. L’intelligence artificielle peut reconstruire le timbre, le ton, la voix, et le rythme, les logiciels de génération vocale analysent ce qui rend la voix d’une personne unique. « Il y a deux ans, même il y a un an, il fallait beaucoup d’audio pour cloner la voix d’une personne », a expliqué Hany Farid, professeur de criminalistique numérique à l’Université de Californie à Berkeley. « Actuellement… si tu as une page Facebook… ou si tu as enregistré un TikTok et que ta voix y est, en quelques secondes, les personnes peuvent cloner ta voix. »
Combien de personnes risquent de tomber dans l’escroquerie de clonage vocal
Selon les données de la Commission fédérale du commerce, en 2022, plus de 36 000 signalements de personnes escroquées aux États-Unis par quelqu’un prétendant être un ami ou un membre de la famille ont été recensés. La tromperie fonctionne mieux au téléphone et en effet, il y a eu 5 100 cas d’escroqueries par appel, et les criminels ont réussi à extorquer 11 millions de dollars. Une analyse réalisée par Starling Bank avec Mortar Research cette année a révélé que parmi plus de 3 000 adultes, plus d’un quart a déclaré avoir été ciblé par une escroquerie de clonage vocal par IA au cours des 12 derniers mois.
Sur le marché, plusieurs outils de synthèse vocale par IA sont déjà disponibles. ElevenLabs, par exemple, a été fondée en 2022 et propose à la fois une version gratuite et une version payante (qui peut varier de 5 à 330 dollars par mois). L’entreprise a déjà été critiquée. En janvier, sur 4Chan, un utilisateur a publié un clip d’Emma Watson lisant un extrait de Mein Kampf réalisé avec l’application.
Pourquoi nous ne sommes pas capables de freiner ce type d’escroqueries
Comme cela arrive souvent, les nouvelles technologies dépassent tout le monde, et selon les experts, les régulateurs fédéraux, les forces de l’ordre et les tribunaux ne sont pas équipés pour freiner ce type d’escroqueries. Il est difficile de retracer les appels et les fonds des escrocs, il y a peu de précédents en matière judiciaire, donc il n’est même pas clair si la responsabilité incombe également aux entreprises qui rendent disponibles certains outils.
Will Maxson, assistant à la direction de la division des pratiques de marketing de la FTC, a expliqué qu’il peut être « particulièrement difficile » de retracer les escroqueries vocales, car elles pourraient utiliser un téléphone basé n’importe où dans le monde, rendant presque impossible même d’identifier quelle agence a juridiction sur un cas particulier.