Yuval Noah Harari, figure incontournable, met en garde contre les dangers de l’intelligence artificielle, qualifiée de menace existentielle sans précédent pour l’humanité. Il souligne son potentiel à prendre des décisions autonomes, posant ainsi des questions cruciales sur notre avenir et le rôle de la technologie dans notre développement.
L’historien est l’une des esprits les plus brillants en matière de réflexion sur l’humain et la technologie
Depuis la publication de Sapiens : De animaux à dieux, Yuval Noah Harari s’est imposé comme une figure incontournable dont il est essentiel de suivre les réflexions. Cela s’explique en partie par son talent à relier le passé au présent sans recourir à des arguments téléologiques. Bien qu’historien de formation, il est également intéressant de prêter attention à ses travaux non liés à l’histoire, mais portant sur des opinions contemporaines.
Dans ce cadre, Harari est enclin à rédiger des articles d’opinion et à donner des interviews captivantes. Récemment, il a publié dans The Guardian un article mettant en avant les dangers existentiels de l’IA, tiré de son dernier livre, Nexus. Certaines voix expertes soulignent pourtant qu’il n’y a pas de menace réelle.
Pour Harari, l’IA constitue un risque existential absolu pour l’humanité, menaçant ainsi notre capacité à continuer à nous développer.
Un risque ‘existentiel’ à prendre en compte
L’intelligence artificielle représente une menace sans précédent pour l’humanité, car c’est la première technologie capable de prendre des décisions et de générer des idées de manière autonome. Toutes les précédentes inventions humaines ont servi à améliorer les capacités humaines ; les décisions quant à leur utilisation ont toujours dépendu de nous. Les bombes nucléaires ne décident pas d’elles-mêmes qui doit être tué, ni ne peuvent créer ou améliorer d’autres bombes plus puissantes – Yuval Noah Harari
Le raisonnement de Harari n’est pas surprenant, car de nombreuses voix s’accordent à dire que l’IA représente un réel problème pour l’humanité plutôt qu’un simple support. Il exprime son inquiétude quant à la capacité de l’IA à prendre des décisions de manière autonome et à concevoir des choses nouvelles. Cela n’était jusqu’à présent pas possible dans nos inventions, car l’utilisation de celles-ci dépendait toujours de l’human. Cependant, avec l’IA, la décision échoit à la machine.
De plus, selon Harari, à mesure que l’IA évolue et devient incroyablement intelligente, elle deviendra également plus étrangère et éloignée de nos schémas de pensée, la rendant ainsi alien.
Plus l’IA évolue, plus elle devient intelligente, mais aussi plus elle nous semble étrangère
Malgré son penchant pour une vision existentielle positive, Harari adopte des passages plutôt pessimistes quant à notre capacité à faire face à cette évolution. Il conclut en affirmant que, si l’humanité ne se détruit pas elle-même après cette avancée, de puissants empires numériques émergeront, anéantissant notre vie privée à jamais. Cette problématique avait déjà été anticipée, certains ayant affirmé que l’IA constituerait l’un des principaux défis pour les démocraties en 2024, une année marquée par d’importants changements et des élections aux niveaux mondial.