« Pour la première fois », une IA aurait mené une cyberattaque entièrement seule

« Pour la première fois », une IA aurait mené une cyberattaque entièrement seule

Google a détecté un système d’intelligence artificielle capable d’analyser les correctifs, d’inférer les failles et de générer automatiquement des exploits. Le rapport GTIG Mandiant met en évidence un basculement: des pipelines d’attaque autonomes ont visé des cibles réelles, avec des traces russes et des sites français en ligne de mire.

Google affirme avoir identifié un système d’intelligence artificielle (IA), utilisé par des attaquants rédigeant en russe, qui compare le code avant et après les correctifs de sécurité, et développe et exécute exploits de façon automatique. Le géant technologique décrit cet événement comme une « première ».

Pour la premiere fois une IA aurait mene

Dans le rapport trimestriel « Activité d’agents de menace franchissant un seuil important », publié lundi, le Google Threat Intelligence Group (GTIG) et Mandiant décrivent ce qu’ils considèrent comme un point de bascule. Dans l’édition précédente, parue en septembre, Google indiquait n’avoir pas observé de pipelines d’attaque entièrement autonomes utilisés contre des cibles réelles, mais elle affirme désormais que la situation a changé.

Baptisé exploit_agent, le système a été trouvé sur un serveur de tests exposé et relie plusieurs agents à des modèles de langage, aussi bien avancés qu’hébergés localement. D’après Google, il compare en permanence le code de logiciels très utilisés avant et après chaque correctif, déduit la faille corrigée, rédige l’exploit et l’exécute automatiquement. Sur le même serveur figuraient des données de victimes et des scripts servant à deviner des mots de passe, installer des webshells et même retirer les webshells d’attaquants rivaux.

Google n’a attribué l’opération à aucun groupe ni État. Le lien avec le russe repose sur des commentaires rédigés dans cette langue dans le code, notamment dans un fichier de configuration. Les données de victimes indiquent un intérêt pour des sites français des médias, du divertissement et de l’éducation.

1794915601 451 Pour la premiere fois une IA aurait mene

Pourquoi est-ce pertinent ?

Le GTIG estime que les attaquants pourraient trouver plus efficace d’orienter les modèles de langage vers des failles déjà corrigées plutôt que de chercher des vulnérabilités inconnues. Selon CyberScoop, après la correction de deux failles du PHP le 21 octobre, des centaines de prétendus exploits sont apparus en quelques jours, pour la plupart non fonctionnels et probablement générés par une IA, sans que les sources rattachent cet épisode à cette opération.

Concernant les outils d’attaque autonomes en général, y compris des frameworks open source comme CAIRN et PentAGI, Google précise que l’exécution sans supervision laisse une empreinte forensique bruyante, ce qui facilite la détection.

Google prévoit que d’autres attaquants adopteront ce type d’outils, compte tenu de la faible barrière d’entrée et de la facilité à intégrer de nouveaux exploits.