La montée en puissance des services d’IA générative suscite des inquiétudes, notamment de la part du FBI, qui met en garde contre leur utilisation frauduleuse. Les criminels exploitent ces technologies pour tromper plus efficacement leurs victimes. Néanmoins, il existe des mesures préventives que chacun peut adopter pour se protéger en ligne.
Oops: Les services d’IA générative connaissent une immense popularité tant chez les utilisateurs d’internet que chez les cybercriminels. Selon le FBI, le contenu « synthétique » est de plus en plus utilisé pour mener différents types de fraudes. Cependant, avec les bonnes précautions, les individus peuvent encore se protéger efficacement en ligne.
Le FBI a émis une alerte concernant l’utilisation criminelle de la technologie d’IA générative. Dans un récent communiqué de service public, le bureau avertit les Américains que les fraudeurs exploitent le contenu généré par l’IA pour rendre leurs schémas illégaux plus convaincants et efficaces.
Selon le FBI, l’IA générative permet aux criminels de réduire le temps et l’effort nécessaires pour tromper leurs cibles. Ces outils d’IA prennent les informations de l’utilisateur pour « synthétiser » un tout nouveau contenu basé sur des demandes. Ils peuvent même corriger des erreurs humaines qui pourraient autrement éveiller des soupçons, en particulier dans les textes générés par l’IA.
Créer du contenu avec l’IA n’est pas intrinsèquement illégal, mais cela devient un crime lorsque ce contenu est utilisé dans des tentatives de fraude ou d’extorsion. L’alerte du FBI décrit plusieurs exemples de la façon dont l’IA générative peut être mal utilisée et propose des conseils pratiques pour aider les utilisateurs à se protéger en ligne.
Les textes générés par l’IA peuvent sembler très convaincants dans les campagnes d’ingénierie sociale ou de spear-phishing. Les fraudeurs tirent parti de l’IA générative pour produire de grandes quantités de contenu faux, créer de faux profils de réseaux sociaux, envoyer des messages et traduire des langues avec plus de précision et moins d’erreurs grammaticales. Des sites web entièrement frauduleux peuvent désormais être construits en un temps record, et des chatbots sont utilisés pour tromper les victimes afin qu’elles cliquent sur des liens malveillants.
Les images générées par l’IA sont, sans surprise, à l’avant-garde des tendances actuelles, et les cybercriminels en profitent pleinement. Les fraudeurs utilisent des visuels générés par l’IA pour améliorer de faux profils sur les réseaux sociaux et des documents d’identité contrefaits soutenant des activités frauduleuses. Selon le FBI, les algorithmes d’IA peuvent produire des images « réalistes » qui sont exploitées dans des campagnes d’ingénierie sociale, des tentatives de spear phishing, des escroqueries et même des « schémas romantiques ».
Le contenu audio et vidéo généré par l’IA pose des risques similaires. Les criminels peuvent désormais imiter des figures publiques ou même des personnes connues de leurs cibles, demandant une aide financière ou l’accès à des informations sensibles comme des comptes bancaires.
Le FBI conseille aux utilisateurs d’établir un « mot secret » ou une phrase avec des amis et de la famille de confiance comme moyen rapide de vérifier les identités. D’autres conseils pour se protéger contre les crimes facilités par l’IA générative incluent un test minutieux des images et vidéos à la recherche d’irrégularités ou d’incohérences, ainsi que la minimisation de la disponibilité en ligne des images ou enregistrements vocaux personnels.
Lorsqu’il s’agit de demandes financières, le FBI souligne l’importance de vérifier leur légitimité par des appels téléphoniques directs plutôt que de se fier à des messages textes ou emails. Les informations sensibles ne doivent jamais être partagées avec des individus rencontrés exclusivement en ligne. Bien que cela puisse sembler évident, le FBI rappelle également que l’envoi d’argent, de cartes cadeau ou de cryptomonnaie à des inconnus en ligne est très risqué et conduit souvent à des fraudes.