La société derrière le chatbot AI populaire Claude a émis un avertissement inquiétant concernant l’utilisation croissante des outils AI par les cybercriminels à mesure que la technologie devient plus sophistiquée.
Dans son dernier rapport d’intelligence sur les menaces, Anthropic a détaillé un cas récent montrant comment un hacker a utilisé ses outils AI pour mener une cyberattaque ciblant de nombreuses entreprises et organisations.
Selon Anthropic, le hacker a utilisé un agent de codage AI (dans ce cas, Claude Code), un outil capable d’écrire, d’éditer et d’exécuter du code avec un minimum d’intervention humaine.
Au cours du mois dernier, le hacker a utilisé cet agent pour automatiser les tâches de “reconnaissance, collecte de données d’identification et pénétration du réseau à grande échelle,” dérobant des données sensibles de 17 entreprises et organisations dans les domaines gouvernemental, de la santé, des services d’urgence et religieux.
Le coupable a réussi à obtenir les dossiers personnels des individus, y compris des données de santé, des informations financières et des identifiants gouvernementaux, avant de demander des paiements de rançon tout en menaçant d’exposer les données en ligne si ses exigences n’étaient pas satisfaites.
L’agent Claude a même analysé les données financières volées pour déterminer le montant de la rançon approprié — jusqu’à 500 000€ a été demandé dans certaines attaques — et a également créé des messages de rançon “visuellement alarmants” qui apparaissaient sur les écrans des cibles.
Anthropic a déclaré que cette opération audacieuse démontre “une évolution préoccupante dans la cybercriminalité assistée par AI” et “représente un changement fondamental dans la manière dont les cybercriminels peuvent étendre leurs opérations,” maintenant que l’AI peut être utilisée pour automatiser une grande partie du processus de hacking, bien que sous direction humaine.
Bien qu’il ne soit pas clair si l’une des cibles de ce cas particulier a cédé, Anthropic a indiqué avoir pris des mesures pour prévenir ce type de détournement. Mais il a ajouté que cette méthode d’attaque est susceptible de devenir de plus en plus courante “alors que l’AI abaisse les barrières à l’entrée pour des opérations de cybercriminalité sophistiquées.”
Son dernier rapport d’intelligence sur les menaces a également souligné comment des agents nord-coréens ont utilisé Claude pour obtenir frauduleusement des emplois à distance dans des entreprises technologiques américaines du Fortune 500, ainsi qu’un autre cas où un cybercriminel a utilisé ses outils AI pour créer et commercialiser divers produits de ransomware, les vendant à d’autres cybercriminels pour jusqu’à 1 200€ pièce.
De nombreux hackers utilisent des outils AI depuis des années sous diverses formes. Cependant, des chatbots comme ChatGPT, lancé en 2022, ont facilité le lancement d’attaques, et la montée des agents AI pose une menace encore plus grande. Heureusement, la technologie même exploitée par les attaquants est également mise à profit par les entreprises de cybersécurité pour établir une ligne de défense essentielle, bien qu’il soit clair que la lutte pour suivre le rythme est constante.