Une avancée majeure dans la cybersécurité a été réalisée grâce à l’intelligence artificielle, permettant d’identifier une vulnérabilité critique dans une base de données largement utilisée avant qu’elle ne soit exploitée. Ce succès marque une nouvelle ère dans la protection des utilisateurs contre les cybermenaces.
L’IA de Google a identifié une vulnérabilité critique dans SQLite, permettant la correction avant qu’elle ne soit exploitée par des hackers
Via le blog de sa division spécialisée en cybersécurité, Project Zero, Google a révélé le premier échec de sécurité réel détecté par un agent d’intelligence artificielle. Ce défaut, un débordement de tampon de pile exploitable dans SQLite (une base de données open source largement utilisée), a été découvert par Big Sleep, un outil d’analyse de vulnérabilités assisté par IA développé conjointement par Google Project Zero et Google DeepMind.
Cette avancée représente une étape significative dans le domaine de la cybersécurité, car elle illustre la capacité de l’IA à détecter des vulnérabilités majeures avant qu’elles ne puissent être exploitées par des acteurs malveillants. La faille a été découverte début octobre et a été signalée aux développeurs de SQLite, qui l’ont corrigée le jour même, empêchant ainsi les utilisateurs d’être affectés.
Project Zero et Google DeepMind utilisent « Big Sleep » pour détecter les menaces
Cette découverte repose sur les recherches antérieures de Project Zero concernant les capacités de défense des modèles linguistiques de grande taille en cybersécurité. Ces recherches, nommées Project Naptime, ont abouti au développement de l’outil Big Sleep.
Big Sleep est un agent d’IA qui se concentre sur l’analyse des variantes de vulnérabilités déjà identifiées et corrigées, car les attaquants exploitent souvent des variations de vulnérabilités connues pour mener leurs attaques.
Pour identifier la faille, les chercheurs ont fourni à Big Sleep un point de départ, tel que les détails d’une vulnérabilité précédemment corrigée, et lui ont demandé de sonder le dépôt actuel de SQLite à la recherche de problèmes connexes. Dans ce cas, l’agent a reçu un commit qui introduisait une amélioration substantielle dans le traitement des clauses WHERE dans les requêtes de tables virtuelles.
Après une analyse approfondie, Big Sleep a identifié une condition mal gérée lors du traitement d’une requête. Cela offrait une opportunité d’écriture hors limites dans le tampon de la pile, menant ainsi à une situation potentiellement exploitable.
Bien que la reproduction de l’erreur semble simple au regard des résultats, la configuration des outils de fuzzing traditionnels, comme OSS-Fuzz, avait empêché sa détection antérieure.
Le fuzzing, quant à lui, est une technique automatisée qui consiste à introduire des données aléatoires ou invalides dans un programme afin de tenter de provoquer des échecs ou des comportements inattendus. C’est une méthode largement utilisée pour identifier des vulnérabilités de sécurité, mais comme le montre cet exemple, elle peut ne pas toujours suffire à détecter toutes les failles, surtout celles dissimulées dans des cas particuliers.
L’IA, le complément idéal aux techniques traditionnelles pour protéger l’utilisateur
Grâce à sa capacité à analyser le code et à comprendre les relations entre les différentes parties du programme, l’intelligence artificielle a le potentiel de compléter le fuzzing et de découvrir des vulnérabilités qui pourraient autrement passer inaperçues.
L’équipe de Big Sleep reconnaît que ce résultat est hautement expérimental et que les fuzzers pourraient se révéler tout aussi efficaces à l’heure actuelle. Cependant, la découverte de la faille dans SQLite illustre le potentiel de l’IA pour révolutionner la sécurité défensive en identifiant et en corrigeant les vulnérabilités avant qu’elles ne soient exploitées.
Cependant, Project Zero et l’équipe de Big Sleep visent à poursuivre leur recherche dans ce domaine, en partageant leurs découvertes et en travaillant à réduire l’écart entre les techniques publiques et privées utilisées dans la recherche de vulnérabilités. Leur objectif ultime est de rendre les attaques de jour zéro bien plus difficiles à exécuter.