Yuval Noah Harari, expert en l’interaction passé-présent, scrute l’avenir technologique avec un regard critique. Dans sa récente allocution sur l’intelligence artificielle, il souligne les dangers potentiels d’une technologie qui pourrait un jour surpasser l’humanité, évoquant des conséquences alarmantes pour notre espèce et l’écosystème.
Bien qu’il semble que ce soit des paroles importantes, Harari est un véritable expert en matière de perspective « au-delà » dans le monde de la technologie
Yuval Noah Harari est un expert indéniable dans l’art de relier le passé à l’avenir de l’humanité, tout en gardant les yeux rivés sur l’avenir. Cela lui a valu d’être considéré comme l’un des plus grands experts et penseurs sur la technologie, ainsi que sur les enjeux éthiques qu’elle soulève et le pouvoir qu’elle pourrait exercer à l’avenir. Lors de la présentation de Nexus, Harari a longuement discuté de l’intelligence artificielle (IA) et de ses implications futures pour l’humanité. Son approche, cependant, est quelque peu pessimiste.
Yuval Noah Harari ne fait pas confiance à l’IA
Dans son dernier ouvrage, Nexus, Yuval Noah Harari développe l’idée que « l’IA pourrait mettre fin à la domination humaine sur Terre », une théorie soutenue par d’autres experts. Geoffrey Hinton, l’un des pionniers de l’IA, affirme également que pour la première fois, l’humanité pourrait ne plus être l’espèce dominante sur la planète après l’avènement de l’IA.
Dans une interview accordée à La Vanguardia en septembre 2024, où il présente son dernier livre, il approfondit cette question cruciale :
« Nous avons créé une nouvelle intelligence potentiellement plus puissante et plus intelligente que nous. Si elle échappe à notre contrôle, les conséquences pourraient être catastrophiques. Pas seulement pour l’humanité, mais pour l’ensemble de l’écosystème. Pas parce que l’IA est malveillante, mais parce qu’elle pourrait être extrêmement puissante et indifférente à notre existence ainsi qu’à celle d’autres entités organiques. »
Harari évoque bien sûr un stade de développement de l’IA où celle-ci serait bien plus intelligente qu’actuellement. Un moment où cette technologie serait capable de fonctionner de manière autonome et pourrait s’échapper, jusqu’à un certain point, de la domination humaine, que ce soit pour notre bénéfice ou en raison de circonstances complexes qui lui permettraient de se développer d’elle-même.
Ce phénomène, connu sous le nom d’intelligence artificielle générale (AGI), est véritablement complexe, et il n’existe pas de définition précise pour éclaircir la question. Cependant, il est clair qu’il concerne un stade de développement très avancé dans lequel nous ne nous trouvons pas encore. Pour beaucoup d’experts, cet événement pourrait ne jamais se produire, entraînant un nouveau « gel » de l’IA.
Cependant, il est intéressant d’explorer en profondeur ce que Yuval Noah Harari essaie d’expliquer dans ces déclarations, car elles rejoignent véritablement l’opinion d’autres spécialistes. Ilya Sutskever, fondateur d’OpenAI, partage la conviction que l’IA nous traitera de la même manière que nous traitons les humains, par exemple. C’est une voix autorisée, ayant joué un rôle essentiel dans le développement précoce de l’IA.