Nick Bostrom, philosophe et expert en intelligence artificielle, examine les paradoxes de l’IA en un monde en mutation. Loin de se concentrer uniquement sur les risques, il propose une approche nuancée, soulignant que cette technologie pourrait ouvrir la voie vers des futurs radieux, mais seulement si elle est gérée avec prudence.
Le délicat équilibre entre la tyrannie technologique et l’utopie posthumaine, selon l’analyse de Bostrom sur les limites de la superintelligence
Nick Bostrom, philosophe suédois et directeur de l’Institut pour le Futur de l’Humanité à Oxford, a été une figure centrale dans la discussion sur l’intelligence artificielle et son impact sur le futur de l’humanité. Bien qu’il ait d’abord été connu pour ses mises en garde concernant les risques existentiels associés à la superintelligence, sa perspective a évolué vers une vision plus équilibrée qui reconnaît à la fois les menaces et les opportunités que présente l’IA.
En novembre 2023, lors d’une interview avec UnHeard, Bostrom a affirmé que le développement de l’IA avancée n’est pas seulement inévitable, mais constitue la clé pour accéder aux meilleurs futurs possibles de l’humanité. Le philosophe suédois a longuement abordé cette paradoxie, considérant que si l’intelligence artificielle pose des risques existentiels sans précédent, elle représente également la seule voie vers des utopies technologiques durables.
L’IA est-elle le dernier invente humain ou la clé de l’utopie ?
Bostrom maintient que « tous les chemins vers des futurs vraiment brillants passent par le développement d’une superintelligence artificielle », une conception fondée sur trois piliers. Tout d’abord, seuls des systèmes d’IA supérieurs à la cognition humaine pourraient gérer les défis mondiaux tels que le changement climatique, les pandémies ou les dangers cosmiques. La protection technologique et l’optimisation des ressources constituent les points suivants, car une IA avancée pourrait neutraliser les menaces posées par d’autres technologies émergentes et gérer efficacement des ressources infinies.
Cependant, le philosophe avertit également que la phase de développement initial concentre les plus grands dangers. Il souligne que les gouvernements pourraient utiliser l’IA pour la surveillance de masse, la manipulation sociale ou la guerre automatisée, et qu’il existe une difficulté technique à garantir que des systèmes superintelligents conservent des objectifs compatibles avec le bien-être humain. Enfin, les erreurs dans des systèmes d’IA centralisés pourraient faire s’effondrer des infrastructures essentielles comme celles de l’énergie, des communications ou de la logistique.
Bien qu’il reconnaisse qu’il n’existe actuellement aucun bénéfice tangible immédiat, il soutient que l’IA sera le « système d’exploitation » qui permettra d’accéder à des technologies révolutionnaires encore inimaginables. Il compare ce potentiel à la révolution industrielle: tout comme les machines ont amplifié nos capacités physiques, l’intelligence artificielle pourrait multiplier notre capacité à résoudre des problèmes complexes.
En somme, le penseur suédois équilibre sa vision optimiste avec plusieurs mises en garde claires : « La transition elle-même sera associée à des risques accrus. Nous devons faire preuve de la plus grande prudence ». Pour y parvenir, il propose une « préoccupation de Goldilocks »: ni trop peu, ce qui nous mènerait à la complaisance, ni excessive, ce qui paralyserait le progrès. Sa vision finale suggère que, gérée avec sagesse, l’IA pourrait être le dernier invente que l’humanité aura besoin de créer.