Le pape a publié un texte majeur sur l’intelligence artificielle, dans lequel il alerte sur sa capacité à remettre en question la nature même de l’humain.
Ce document, intitulé Magnifica Humanitas (Magnifique Humanité), s’étend sur 40 000 mots. Il met en garde contre les risques que les nouvelles technologies font peser sur la démocratie, le bien-être collectif et l’avenir de l’humanité.
Ce texte, qui porte le nom d’encyclique, s’inscrit dans une longue tradition de prises de parole des souverains pontifes. Depuis 145 ans, plusieurs papes ont rédigé des documents devenus célèbres sous des titres simples.
Léon XIII publia Rerum Novarum en 1891 pour réclamer de meilleures conditions pour les ouvriers pendant la Révolution industrielle. Jean XXIII fit paraître Pacem in Terris en 1963 et lança un appel au désarmement nucléaire en pleine Guerre froide. François, lui, rédigea Laudato Si en 2015 et implora une action rapide face au changement climatique.
Le pape Léon XIV, plus récemment élu, publie maintenant son propre manifeste. Il y formule une série de mises en garde sur la nature potentiellement destructrice de l’intelligence artificielle. Ce document fait suite à plusieurs avertissements informels déjà exprimés par le souverain pontife, qui est de formation mathématicien.
Démocratie
Léon déclare que la désinformation a trouvé dans l’IA « un amplificateur puissant ». La capacité à manipuler contenus, images et vidéos expose chacun à des perspectives biaisées ou trompeuses. Le pape affirme que la démocratie s’affaiblit quand le pragmatisme, c’est-à-dire « ce qui paraît utile et efficace », prend la place de la vérité. Une indifférence face à la vérité conduit, lentement mais sûrement, à une descente vers le totalitarisme, écrit Léon.
Réseaux sociaux
Le pape estime que les détenteurs des plateformes numériques, dont les réseaux sociaux, exercent un pouvoir qui « doit en permanence être guidé par la recherche de la vérité et le respect de la dignité humaine ». Il faut voir internet comme « un milieu où la liberté intérieure et la pensée critique peuvent mûrir », et non pas « un instrument de distraction excessive, d’homogénéisation ou de domination ». La communication ne se contente pas de transporter une information ; elle produit une culture.
Travail
Selon Léon, le monde du travail doit être gouverné par « la protection des possibilités d’emploi et le rôle irremplaçable de la personne ». Il prévient que « la recherche de profits plus importants ne peut justifier des choix qui sacrifient systématiquement des emplois, car la personne humaine est une fin, non un moyen, et l’ordre économique doit rester subordonné à la dignité humaine et au bien commun. » Les gouvernements doivent aussi favoriser les conditions qui créent des emplois, car cela constitue un bien essentiel pour les familles et les sociétés.
Guerre
Le pape écrit que l’IA « ne peut que précipiter les conflits et les rendre plus impersonnels ». Il réclame des critères concrets pour toute décision de frappe militaire. Ces critères impliquent une chaîne de responsabilité claire, qui inclut « ceux qui conçoivent, forment, autorisent et utilisent la technologie », et des mesures pour que le ciblage distingue les combattants des non-combattants et évalue l’impact sur les populations sans défense. Des exigences non négociables sont des garanties de responsabilité et l’interdiction d’automatiser le déploiement de la force létale. Léon appelle aussi à un cadre international commun « pour freiner la course aux armements technologiques et assurer une protection solide des civils ».
Économie
Le pape constate que les richesses mondiales « se concentrent de plus en plus dans moins de mains, ce qui creuse les inégalités ». À l’heure de l’intelligence artificielle et de la robotique, il n’est plus possible de s’en remettre uniquement à la « main invisible du marché », écrit Léon. Il exhorte les politiques à orienter leurs actions vers « le bien commun » et à promouvoir « un travail digne, l’inclusion sociale et une distribution équitable des bénéfices de l’innovation ».
Trafics d’êtres humains
Le pape souligne le rôle des réseaux numériques, comme les plateformes en ligne, les messageries ou les paiements anonymes, dans les trafics d’êtres humains. Il qualifie ces trafics de « forme contemporaine d’esclavage ». Ne pas combattre ou tolérer ces pratiques, c’est risquer de devenir complice des péchés d’aujourd’hui, qui ressemblent à ceux du passé quand l’esclavage était dissimulé et justifié.
Environnement
Léon aborde aussi le coût environnemental des centres de données qui produisent les modèles d’IA. Ces infrastructures consomment « des quantités énormes d’énergie et d’eau, ce qui influence de manière significative les émissions de dioxyde de carbone ». Face à une demande qui augmente, en particulier pour les grands modèles de langage, le pape plaide pour le développement de solutions technologiques plus durables.
Impact sur la jeunesse
Le pape appelle à une alliance entre décideurs, institutions éducatives et familles pour aider la jeunesse à naviguer dans la « culture de l’immédiateté et de l’hyperstimulation » créée par les médias numériques. Il souligne aussi comment l’IA accentue les dangers de prédation envers les jeunes, et il met en garde contre l’accès trop précoce aux appareils mobiles personnels. « Des phénomènes en ligne comme le grooming, le chantage et l’exploitation sexuelle des mineurs ne sont pas rares ; ils deviennent plus insidieux avec l’usage de faux profils, d’algorithmes qui facilitent les contacts dangereux et d’outils d’IA capables de manipuler images et vidéos », écrit le pape.