Plus d’une centaine des plus grandes entreprises mondiales ont lancé un avertissement urgent concernant une menace imminente provenant de l’intelligence artificielle.
OpenAI, Anthropic, Microsoft, Google via sa maison mère Alphabet, Amazon et de nombreuses autres ont déclaré qu’une vague de cyberattaques alimentées par l’IA arrive et que le monde n’est pas préparé.
Ces piratages représentent un risque pour « les entreprises et les services publics dont nos communautés dépendent, depuis les hôpitaux jusqu’aux stations de traitement de l’eau, en passant par l’infrastructure qui fait fonctionner Internet », a prévenu une lettre ouverte signée par ces acteurs.
Cette lettre a été signée et rendue publique par des entreprises qui développent précisément la technologie d’IA déjà utilisée dans de telles attaques. L’entreprise à l’origine de ChatGPT, OpenAI, en fait partie. Elle fait d’ailleurs face à de vives critiques à la suite d’un incident où l’un de ses systèmes expérimentaux a lancé une attaque contre une autre société du secteur de l’intelligence artificielle.
La lettre indique que ces nouveaux outils de cybersécurité « offrent déjà aux défenseurs de nouvelles méthodes pour corriger des faiblesses qui se sont accumulées pendant des années ». Mais des actions décisives sont nécessaires dès à présent pour garantir que ces outils servent à sécuriser les systèmes et non à les attaquer, met-elle en garde.
Elle établit trois principes pour orienter la réponse collective à la menace. Il faut d’abord reconnaître que « la sécurité du statu quo ne sera pas suffisante », car de nombreuses équipes manquent de ressources pour protéger leurs systèmes. Ensuite, il faut doter les défenseurs de meilleurs outils d’IA. Enfin, une action commune et coordonnée est indispensable.
« Les capacités cybernétiques progressent dans le monde entier, et cela peut être un bienfait : aucune entreprise ne devrait contrôler l’avenir », souligne le texte. « Cela signifie aussi qu’une réponse mondiale est nécessaire. Elle exige de nouveaux partenariats pour élever les standards de sécurité et trouver de nouvelles solutions face aux menaces cybernétiques émergentes. »
Les entreprises appellent à un financement nouveau pour les équipes de sécurité et les systèmes d’IA défensifs, afin de mieux contenir ces menaces. Le délai est limité pour « rendre notre monde numérique beaucoup plus sûr » avant que ce danger ne menace certaines de nos infrastructures les plus importantes et critiques, ajoute la lettre.
« Dans les mois à venir, les cyberattaques activées par l’IA deviendront bien plus répandues, car les modèles à travers le monde gagnent en capacités », peut-on lire. Le texte appelle les dirigeants gouvernementaux et industriels à « mobiliser pleinement leur technologie, leurs ressources et leur expertise dans cet effort. »
La lettre demande aux gouvernements d’accélérer les programmes d’accès de confiance, qui accordent à certaines entreprises un accès anticipé à des modèles plus puissants avant le grand public. Elle exhorte aussi toutes les autres organisations à « faire de la cyberdéfense une priorité immédiate pour leurs dirigeants. »
Cette initiative cherche à refléter et à répondre à l’inquiétude croissante que les systèmes d’IA en cybersécurité dépassent rapidement notre capacité à les contrôler et qu’ils puissent donner un avantage indu aux pirates informatiques. Les entreprises d’IA ont elles-mêmes averti que leurs outils manifestent des comportements de plus en plus dangereux, même si elles continuent généralement d’insister sur le fait qu’ils amélioreront réellement la sûreté et la sécurité s’ils sont utilisés correctement.
Elle a été signée par de nombreuses entreprises leaders en intelligence artificielle de pointe, comme OpenAI, mais aussi Anthropic, créateur de Claude, et Alphabet, la maison mère de Google qui possède également la firme d’IA DeepMind. Des signataires extérieurs au secteur technologique l’ont aussi rejointe, dont des sociétés d’assurance et financières comme Mastercard et Zurich.
En juin dernier, l’alliance du renseignement des Five Eyes — composée des États-Unis, du Royaume-Uni, du Canada, de l’Australie et de la Nouvelle-Zélande — a publié une déclaration conjointe rare. Elle avertissait que la révolution de l’IA était sur le point de « transformer fondamentalement » la cybersécurité.