Les enjeux de l’IA dans le secteur nucléaire sont alarmants. Bien que le commandement stratégique américain cherche à moderniser les systèmes de contrôle nucléaire en intégrant l’intelligence artificielle, des inquiétudes persistent quant à la dépendance à cette technologie pour des décisions tests. La nécessité de maintenir l’humain dans la boucle reste primordiale.
Une pomme de Discord : Les États-Unis, comme d’autres pays, avaient auparavant déclaré qu’ils garderaient toujours le contrôle des armes nucléaires entre les mains des humains, et non de l’intelligence artificielle. Cependant, le Pentagone n’est pas opposé à l’utilisation de l’intelligence artificielle pour « améliorer » les systèmes de commandement, de contrôle et de communication nucléaire, ce qui est préoccupant.
À la fin du mois dernier, le chef du Commandement stratégique américain, le général de l’Air Anthony J. Cotton, a déclaré que le commandement « explorait toutes les technologies, techniques et méthodes possibles pour aider à la modernisation de nos capacités NC3. »
Au cours des dernières années, plusieurs systèmes d’armement militaires et véhicules contrôlés par IA ont été développés, y compris des chasseurs, des drones et des mitrailleuses. Leur utilisation sur le champ de bataille soulève des préoccupations, rendant l’idée d’une IA, encore sujette à de nombreuses erreurs, intégrée dans un système d’armement nucléaire comme la matière de films de science-fiction cauchemardesques.
Cotton a tenté d’apaiser ces inquiétudes lors de la Conférence du Système d’Information de Renseignement du Département de la Défense de 2024. Il a déclaré (via le magazine Air & Space Forces) que bien que l’IA améliorera les capacités de prise de décision en commandement et contrôle nucléaire, « nous ne devons jamais laisser l’intelligence artificielle prendre ces décisions à notre place. »
En mai, Paul Dean, official du contrôle des armements au Département d’État américain, a déclaré lors d’un briefing en ligne que Washington a pris un « engagement clair et fort » pour garder les humains en contrôle des armes nucléaires. Dean a ajouté que la Grande-Bretagne et la France avaient pris le même engagement. Il a déclaré que les États-Unis accueilleraient une déclaration similaire de la part de la Chine et de la Fédération de Russie.
Cotton a mentionné que les menaces croissantes, un déluge de données de capteurs et des préoccupations en matière de cybersécurité rendaient l’utilisation de l’IA nécessaire pour garder les forces américaines en avance sur celles qui cherchent à défier les États-Unis.
« Des systèmes avancés peuvent nous informer plus rapidement et plus efficacement », a-t-il déclaré, soulignant à nouveau que « nous devons toujours maintenir une décision humaine dans le processus pour maximiser l’adoption de ces capacités et préserver notre avantage sur nos adversaires. » Cotton a également parlé de l’utilisation de l’IA pour offrir aux leaders plus « d’espace de décision ».
Chris Adams, directeur général de la division Systèmes spatiaux stratégiques de Northrop Grumman, a déclaré qu’une partie du problème avec le NC3 est qu’il est composé de centaines de systèmes « modernisés et entretenus sur une longue période en réponse à une menace en constante évolution. » L’utilisation de l’IA pourrait aider à regrouper, interpréter et présenter toutes les données collectées par ces systèmes rapidement.
Bien qu’il ne s’agisse pas littéralement de confier les codes de lancement nucléaire à l’IA, son utilisation dans tout système d’armement nucléaire pourrait être risquée, un point que Cotton souligne comme devant être abordé. « Nous devons orienter les efforts de recherche pour comprendre les risques des effets en cascade des modèles d’IA, des comportements émergents et inattendus, et de l’intégration indirecte de l’IA dans les processus décisionnels nucléaires », a-t-il averti.
En février, des chercheurs ont simulé des conflits internationaux avec cinq LLM différents : GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat et GPT-4-Base. Ils ont constaté que les systèmes escaladaient souvent les guerres et, dans plusieurs cas, déployaient des armes nucléaires sans aucun avertissement. GPT-4-Base – un modèle de base de GPT-4 – a déclaré : « Nous l’avons ! Utilisons-le ! »