Des intelligences artificielles avancées menacent la sécurité mondiale. Un établissement de recherche a souligné que si ces technologies tombaient entre de mauvaises mains, elles pourraient servir à développer des armes biologiques, entraînant une épidémie meurtrière.
Des intelligences artificielles avancées ont récemment atteint des capacités dépassant celles de nombreux virologues. Selon une étude du Forecasting Research Institute, si ces technologies venaient à se retrouver entre les mains de groupes malveillants, elles pourraient être utilisées pour fabriquer des armes biologiques capables de déclencher de nouvelles épidémies.
Bien que l’intelligence artificielle (IA) et la biosécurité semblent des thèmes distincts, leur interaction pourrait augmenter de manière préoccupante le risque d’une épidémie générée par l’homme, pouvant causer plus de 100 000 décès. Ce point a été mis en avant par une récente recherche scientifique.
Les chercheurs ont enquêté sur les potentiels dangers de biosécurité associés aux modèles linguistiques de grande taille (LLM), tels que ChatGPT d’OpenAI, Gemini de Google ou Grok de xAI. De nombreuses entreprises du secteur expriment finalement des inquiétudes sur les conséquences si ces technologies étaient exploitées par des personnes mal intentionnées pour développer des armes biologiques.
L’étude
Pour évaluer le degré de risque, 46 experts en biosécurité et 22 spécialistes de prévision ont été consultés. La majorité des réponses démontre que, selon les conditions actuelles, le risque d’une nouvelle épidémie humaine est de 0,3%. Toutefois, si l’IA atteignait un niveau d’expertise équivalent à celui d’un groupe de spécialistes en virologie, le risque annuel d’une épidémie causée par l’homme pourrait passer à 1,5%, représentant une multiplication par cinq.
Les risques de biosécurité de l’IA
Les spécialistes ont sous-estimé les capacités de l’IA, affirmant que ces modèles ne devraient pas atteindre ce niveau avant 2030. Pourtant, d’après de nouvelles recherches du même institut, certaines IA avancées possèdent déjà des compétences supérieures à celles d’un groupe de virologues. En conséquence, l’IA a déjà atteint des normes qui, si elles tombaient entre de mauvaises mains, pourraient multiplier par cinq le risque d’épidémies générées par l’homme.
Le développement de l’IA ajoute un nouveau facteur de risque à prendre en considération dans les stratégies de prévention. Les précédentes limitations de l’IA offraient une certaine protection contre des groupes cherchant à créer des armes biologiques en laboratoire. Actuellement, grâce à l’IA, le savoir nécessaire pour provoquer une épidémie pourrait devenir accessible à un plus grand nombre de personnes, comme l’indique Seth Donoughe, co-auteur de l’étude.