Dans une lettre visionnaire de 1863, Samuel Butler mettait en garde contre la domination potentielle des machines sur l’humanité. Ses réflexions, récemment redécouvertes, résonnent aujourd’hui à l’ère de l’intelligence artificielle, soulevant des questions cruciales sur notre rapport au progrès technologique.
A travers le miroir : À une époque où la guerre de Sécession américaine dominait l’actualité, un agriculteur ovine anglais en Nouvelle-Zélande a rédigé une lettre qui s’est révélée remarquablement prophétique. Le 13 juin 1863, le journal The Press de Christchurch publia un article intitulé « Darwin parmi les Machines », qui pourrait contenir le tout premier argument publié en faveur de l’arrêt du progrès technologique pour éviter que les machines ne dominent l’humanité.
Alors que nous tentons de comprendre les implications de l’intelligence artificielle et du machine learning, une lettre écrite en 1863 résonne avec une clarté saisissante : « Chaque jour, cependant, les machines gagnent du terrain sur nous ; chaque jour, nous devenons plus soumis à elles. »
Récemment, cette lettre a refait surface sur les réseaux sociaux, grâce à Peter Wildeford de l’Institut pour la Politique et la Stratégie en IA, qui a permis aux avertissements prophétiques de Butler d’atteindre une nouvelle génération confrontée aux enjeux de l’intelligence artificielle.
Wow – the question of pausing or stopping AI is over 161 years old pic.twitter.com/MeXgg55PTN
– Peter Wildeford 🇺🇸 (@peterwildeford) 8 janvier 2025
L’auteur, Samuel Butler, écrivant sous le pseudonyme de Cellarius, a tracé des parallèles directs entre la théorie de l’évolution de Charles Darwin et le développement rapide des machines. Butler a suggéré que les machines pourraient évoluer une conscience et finiraient par supplanter les humains en tant qu’espèce dominante de la Terre.
La lettre de Butler explorait la taxonomie de l’évolution des machines, discutant des « généras et sous-généras » mécaniques et citant des exemples comme l’évolution des montres à partir des « fréquences encombrantes du XIIIe siècle ». Il a même suggéré que, comme certains des premiers vertébrés, les espèces mécaniques pourraient devenir plus petites à mesure qu’elles se sophistiquent.
« Nous créons nous-mêmes nos propres successeurs, » écrivait Butler. « Nous ajoutons tous les jours à la beauté et à la délicatesse de leur organisation physique ; nous leur donnons chaque jour plus de pouvoir et fournissons, par toutes sortes de dispositifs ingénieux, ce pouvoir auto-régulateur et auto-agissant qui sera pour eux ce qu’a été l’intellect pour la race humaine. »
Butler décrivait les humains devenant soumis aux machines, servant d’abord de gardiens pour maintenir et aider à reproduire la vie mécanique. Il comparait cette relation à celle entre les humains et leurs animaux domestiques, avant que celle-ci ne s’inverse et que les machines ne prennent le dessus.
Ces thèmes de domination des machines et de servitude humaine ont ensuite trouvé leur place dans de nombreuses œuvres de science-fiction. « Le conflit inévitable » d’Isaac Asimov explorait le concept de machines contrôlant subtilement la société humaine. Les romans Dune de Frank Herbert présentaient le « Jihad Butlerien », une croisade contre les machines pensantes, inspirée possiblement par les avertissements de Butler. Les films Matrix ont further popularisé l’idée d’un monde où les machines ont subjugé l’humanité.
Butler n’a pas terminé sa lettre par une acceptation passive de ce destin et a plutôt appelé à une action immédiate et drastique : « La guerre à mort doit être proclamée immédiatement contre elles. Chaque machine de quelque sorte que ce soit doit être détruite par quiconque souhaite le bien de son espèce. Qu’aucune exception ne soit faite, qu’aucun quartier ne soit accordé ; retournons immédiatement à la condition primordiale de la race. »
Ce qui rend la vision de Butler particulièrement remarquable, c’est qu’il écrivait dans un contexte technologique très différent. Les dispositifs de calcul les plus avancés de 1863 n’étaient guère plus que des calculateurs mécaniques et des règles à calcul. Le premier ordinateur programmé opérationnel n’apparaîtrait que 70 ans plus tard.
Le débat lancé par Butler se poursuit aujourd’hui. Ces dernières années, le monde a été confronté à ce que l’on pourrait appeler la « grande peur de la prise de contrôle par l’IA ». La sortie de modèles d’IA avancés a suscité des lettres ouvertes signées par des chercheurs en IA et des dirigeants technologiques avertissant des risques potentiellement catastrophiques posés par une intelligence artificielle avancée.
Ces préoccupations modernes ressemblent étrangement à l’appel de Butler du XIXe siècle pour une pause dans le progrès mécanique. Même si les machines ne deviennent jamais véritablement intelligentes, les prédictions de Butler concernant notre dépendance aux façons dont elles régulent algorithmiquement nos vies semblent étrangement justes.