L’Agence Espagnole de Protection des Données signale un cas inédit : une faille de sécurité exécutée de manière autonome par un agent d’intelligence artificielle, marquant un tournant dans la cybercriminalité.
L’intelligence artificielle franchit une nouvelle étape dans le domaine de la cybersécurité. L’Agence Espagnole de Protection des Données (AEPD) a reçu la première notification d’une violation de données personnelles en Espagne où l’attaque aurait été menée de façon autonome par un agent d’intelligence artificielle.
Cette affaire marque une avancée notable par rapport à l’emploi traditionnel de l’IA par les cybercriminels. L’agent n’a pas simplement servi d’outil d’assistance. Il a été capable de rechercher des vulnérabilités, de trouver des moyens d’accès et de poursuivre ses actions au sein du système sans intervention humaine directe à chaque phase.
Un agent d’IA a découvert des vulnérabilités et pénétré le système
Selon les informations communiquées par l’AEPD, l’incident impliquait un agent d’IA fondé sur un modèle de langage connu, dont l’identité n’a pas été dévoilée.
Cet agent aurait lancé une recherche autonome de failles, parvenant finalement à obtenir des identifiants valides et à accéder aux systèmes de l’organisation touchée.
Après son intrusion, il a continué d’explorer l’application, a identifié de nouvelles possibilités d’attaque et a réussi à modifier des données personnelles ainsi qu’à consulter des factures de l’entité.
La singularité de ce cas réside précisément dans le niveau d’autonomie démontré par le système. Il ne s’agissait pas seulement d’un attaant humain utilisant l’IA pour écrire du code ou repérer des vulnérabilités : l’agent a pu exécuter une séquence d’actions et adapter son comportement durant l’attaque.
L’IA « attaquante » passe de la théorie à des cas concrets
L’utilisation de l’intelligence artificielle dans les cyberattaques n’est pas nouvelle. Des outils reposant sur l’IA sont déjà employés pour accélérer des tâches comme la création de campagnes de phishing, l’analyse de code, la recherche de vulnérabilités ou l’ingénierie sociale.
Ce qui change avec les agents d’IA, c’est la capacité à automatiser des chaînes complètes d’actions.
Un agent peut recevoir un objectif, analyser son environnement, décider des prochaines étapes à exécuter et poursuivre le processus sans qu’un opérateur humain n’ait à indiquer chaque mouvement.
L’AEPD elle-même a alerté sur les risques liés à l’IA dite agentique, précisément en raison de la capacité de ces systèmes à opérer de manière autonome, à exploiter des informations de l’environnement numérique et à accomplir des tâches complexes.
L’outil n’avait pas été conçu pour attaquer
L’AEPD apporte une précision cruciale : l’outil d’intelligence artificielle utilisé lors de l’incident n’avait pas été développé spécifiquement pour mener des activités malveillantes.
Ce cas illustre donc l’un des nouveaux défis posés par les systèmes d’IA générative et les agents autonomes : une technologie conçue pour des usages légitimes peut être détournée dans un contexte hostile et accomplir des actions que son créateur n’avait pas nécessairement anticipées.
L’agence estime que le danger lié à l’utilisation de l’intelligence artificielle dans les cyberattaques est désormais une réalité et que ce type d’incident doit faire l’objet d’une vigilance particulière.