OpenAI a récemment souligné des préoccupations majeures concernant ses nouveaux modèles d’IA, qui pourraient potentiellement faciliter des cyberattaques autonomes. En admettant que ces technologies posent un risque élevé pour la cybersécurité, l’entreprise se prépare à prendre des mesures proactives pour atténuer ces dangers et renforcer la défense numérique.
La société dirigée par Sam Altman a publié un communiqué préoccupant au sujet de ses nouveaux modèles de langage
Les entreprises technologiques ont pour habitude de présenter leurs innovations avec des promesses de progrès. Pourtant, lorsque OpenAI, à la pointe de l’intelligence artificielle, avertit que ses créations pourraient être dangereuses, il convient d’écouter. Dans un geste rare de transparence, les créateurs de ChatGPT ont reconnu que leurs futurs modèles d’IA seraient non seulement plus intelligents, mais auraient aussi la capacité de devenir des hackers autonomes de premier plan.
Cette information a été révélée hier. Dans un article de leur blog, OpenAI a précisé que ses futurs modèles d’intelligence artificielle pourraient représenter un risque « élevé » en matière de cybersécurité. Il ne s’agit pas de menaces théoriques dans un futur lointain, mais bien de capacités qui progressent à une vitesse fulgurante.
Les cybercriminels de demain pourraient être des agents d’IA autonomes
Selon l’entreprise, ces nouveaux modèles pourraient développer eux-mêmes « des exploits à distance de jour zéro » contre des systèmes bien protégés. Pour ceux qui ne connaissent pas le terme, un exploit de jour zéro désigne une vulnérabilité non connue du fabricant, donc sans correctif disponible. Qu’une IA puisse identifier et exploiter ces failles de manière autonome change totalement la donne.
Mais ce n’est pas tout. OpenAI indique également que ses modèles pourraient assister dans « des opérations complexes d’intrusion dans des entreprises ou industrielles », visant à provoquer des effets dans le monde réel. Imaginez une IA capable de naviguer dans le réseau d’une centrale électrique ou d’une multinationale, contournant les protections et exécutant des attaques coordonnées.
Face à un tel scénario, la réponse d’OpenAI est simple : « nous sommes sur le coup ». La société, soutenue par Microsoft, affirme qu’elle investit dans le renforcement de ses modèles pour des tâches de cybersécurité défensive. L’idée est d’utiliser le feu pour combattre le feu : créer des outils permettant aux défenseurs d’auditer le code et de corriger les vulnérabilités plus rapidement que ne le peuvent les IA offensives (ou les humains qui s’en servent).
Pour contrer ces risques, OpenAI se repose sur une combinaison de contrôles d’accès, de durcissement de l’infrastructure et de surveillance continue (des systèmes qui auraient certainement profité à l’entreprise ayant exposé les données de milliers d’utilisateurs de ChatGPT). De plus, ils envisagent de lancer un programme pour offrir un accès gradué aux capacités avancées à des utilisateurs et clients qualifiés travaillant dans la cybersécurité.
Dans le cadre de sa stratégie, OpenAI a également annoncé la création d’un groupe consultatif appelé Frontier Risk Council. Ce groupe regroupera des experts en cybersécurité et des professionnels de la sécurité pour collaborer étroitement avec les équipes de l’entreprise. Au départ, l’accent sera mis sur la cybersécurité, mais l’objectif est d’élargir leur champ d’action à d’autres domaines à l’avenir.
C’est un pas indispensable, certes. Cependant, rester serein face à la création d’outils si puissants que leurs propres concepteurs se voient contraints de former des conseils d’urgence pour tenter de les contrôler, reste préoccupant. La course à l’IA a désormais atteint un stade où le risque ne concerne plus seulement la perte d’emploi, mais aussi la perte de contrôle sur notre infrastructure numérique.