Des chercheurs du Google Threat Intelligence Group (GTIG) indiquent qu’un zero-day visant un outil d’administration web open-source populaire a probablement été créé à l’aide d’une intelligence artificielle.
Cette faille permet de contourner la protection par authentification à deux facteurs (2FA) dans un système d’administration web open-source, dont le nom n’est pas divulgué.
L’attaque a été stoppée avant une exploitation massive, mais elle révèle une dépendance croissante des acteurs malveillants envers l’IA pour détecter et exploiter les vulnérabilités.
L’analyse du code Python de l’exploit montre une confiance élevée chez Google : l’adversaire a employé un modèle de langage large (LLM) pour identifier et armer la vulnérabilité.
Le script regorge de docstrings explicatives, avec un score CVSS imaginaire, et adopte un format Python structuré typique des données d’entraînement des LLM.
Source: Google
Google exclut l’implication de Gemini dans cette génération malveillante. La nature de la faille, un bug logique sémantique de haut niveau, renforce l’hypothèse d’une détection par IA, plutôt que par des méthodes classiques comme le fuzzing.
Google a alerté le développeur du logiciel et neutralisé la menace rapidement.
Première exploitation zero-day assistée par IA identifiée par GTIG
Les experts de GTIG soulignent une première : un acteur de menace a déployé un zero-day développé avec l’aide de l’IA.
Des groupes chinois et nord-coréens, dont APT27, APT45, UNC2814, UNC5673 et UNC6201, recourent à des modèles IA pour la découverte de vulnérabilités et le développement d’exploits.
Des acteurs liés à la Russie ont employé du code leurre généré par IA pour masquer des malwares comme CANFAIL et LONGSTREAM.
Commentaires de code CANFAIL pour la logique de leurre
Source: Google
Autres utilisations malveillantes de l’IA
Une opération russe nommée Overload a vu des acteurs de social engineering employer le clonage vocal par IA pour usurper l’identité de journalistes dans des vidéos falsifiées anti-ukrainiennes.
Le backdoor Android PromptSpy, révélé par ESET cette année, intègre les API de Gemini pour des interactions autonomes avec l’appareil.
Un module baptisé GeminiAutomationAgent utilise un prompt codé en dur pour attribuer une personnalité inoffensive, contournant les garde-fous du LLM. Cela permet de calculer la géométrie des interfaces utilisateur et d’interagir de diverses manières.
Le malware exploite aussi des capacités IA pour rejouer des authentifications comme des motifs de verrouillage ou des PIN.
Google alerte sur l’industrialisation par les acteurs de menaces de l’accès aux modèles IA premium, via la création automatisée de comptes, des relais proxy et des pools de comptes.