Gabriel V.
Perspective d’avenir : La conférence Black Hat Def Con se présente comme un événement en matière de cybersécurité mondialement reconnu, présentant les recherches en sécurité de l’information les plus « techniques et pertinentes » dans le secteur. Au cours des deux prochaines années, l’événement accueillera un concours financé par la DARPA pour mettre en œuvre des algorithmes d’intelligence artificielle sur le problème de plus en plus pressant de la sécurité des logiciels.
Le défi de cybersécurité de l’intelligence artificielle de la DARPA (AIxCC) est une compétition de deux ans destinée aux esprits « les plus brillants » dans le domaine de l’IA, explique le site officiel du concours. L’agence de recherche du Pentagone souhaite que les entreprises et les experts créent des systèmes d’IA novateurs ; des modèles d’apprentissage automatique conçus pour sécuriser le code logiciel test qui soutient les systèmes financiers, publics et autres infrastructures numériques permettant la vie moderne.
Le logiciel fait tout de nos jours, affirme la DARPA, ce qui offre malheureusement une surface d’attaque « en expansion » pour les cybercriminels et autres acteurs malveillants. Les nouvelles capacités d’IA développées au cours de la dernière décennie ont montré un « potentiel significatif » pour aider à relever les défis sociaux clés tels que la cybersécurité, déclare l’agence américaine. L’AIxCC récompensera les personnes et les organisations capables de concrétiser ce potentiel théorique.
La DARPA prévoit d’attribuer un total de 18,5 millions de dollars en prix aux équipes possédant les meilleurs systèmes d’IA. Un montant supplémentaire de 7 millions de dollars sera attribué aux petites entreprises participant au concours. Avec l’AIxCC, l’armée américaine cherche à développer des modèles d’apprentissage automatique capables d’identifier, voire de résoudre, les failles de sécurité dangereuses dans des projets logiciels tests.
La DARPA travaillera avec les entreprises d’IA « leader » Anthropic, Google, Microsoft et OpenAI pour donner aux concurrents de l’AIxCC accès aux technologies et à l’expertise les plus avancées. Avec leur aide, les concurrents augmenteront vraisemblablement leurs chances de développer un véritable système de cybersécurité « state-of-the-art » intégrant des algorithmes d’IA. La Fondation Open Source contribuera également, car la plupart des logiciels modernes nécessitant une protection sont basés sur des projets de code open source.
Le défi AIxCC a déjà commencé lors de la conférence Def Con de cette année qui s’est tenue à Las Vegas. Les équipes d’IA participeront à une série d’essais préliminaires au cours de l’année 2024, avec la compétition des demi-finales prévue lors des briefings Def Con de l’année prochaine. Enfin, Def Con 2025 accueillera les finales, avec cinq équipes en compétition pour un premier prix de 4 millions de dollars, un deuxième prix de 3 millions de dollars et un troisième prix de 1,5 million de dollars.
Les algorithmes d’apprentissage automatique sont principalement basés sur le principe de la « boîte noire », ce qui ne se coordonne pas très bien avec la sécurité informatique appropriée. Des études récentes ont également mis en évidence le fait que des systèmes commerciaux d’AML tels que ChatGPT donnent la mauvaise réponse à des questions de programmation la moitié du temps. Par conséquent, le concours AIxCC sera assez intéressant à observer.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
