Les réflexions de Yuval Noah Harari sur l’intelligence artificielle soulignent une inquiétude croissante quant à sa rapide évolution. Avec des prédictions alarmantes sur la possibilité d’atteindre une IA superintelligente dans les dix prochaines années, l’auteur met en évidence les dangers potentiels d’une telle avancée pour l’humanité.
Le visionnaire technologique ne croit pas qu’il reste beaucoup de temps avant d’atteindre la singularité en IA
Yuval Noah Harari, historien, philosophe et auteur de best-sellers tels que Sapiens et Homo Deus, a longtemps été une voix critique sur les avancées technologiques et leurs implications pour l’humanité. Cette perspective lui a permis de se faire connaître, et il l’affine avec son dernier ouvrage Nexus. Ce célèbre académicien israélien, reconnu pour ses analyses sur l’évolution humaine et l’avenir de notre espèce, a fait part de ses inquiétudes concernant le développement rapide de l’intelligence artificielle et les risques qu’il pose pour le contrôle humain sur son propre destin, affirmant même qu’il pourrait remettre en cause la domination humaine sur Terre.
La révolution silencieuse qui changera le monde
Lors d’une récente interview avec CNBC-TV18 à l’occasion de la sortie de son nouveau livre, Nexus, Harari a partagé une vision troublante sur l’avenir immédiat de l’intelligence artificielle. Ses déclarations, faites le 6 décembre, ont suscité des réactions dans la communauté technologique en raison de la force de ses prédictions et de la préoccupation qu’elles expriment concernant l’évolution rapide des capacités de l’IA. L’auteur n’est pas très optimiste :
« Nous pourrions être à seulement cinq ou dix ans d’avoir des intelligences artificielles superintelligentes qui sont beaucoup plus intelligentes que nous. Actuellement, il existe des domaines limités, comme le jeu d’échecs, où l’IA est déjà plus intelligente que nous. Dans quelques années, cela se produira dans de plus en plus de domaines, et le danger est qu’à ce moment-là, nous pourrions perdre le contrôle sur elle. »
Cette affirmation est particulièrement significative car, contrairement à d’autres technologies disruptives de l’histoire, Harari estime que l’IA n’est pas simplement un nouvel outil. Selon lui, alors que les inventions passées, des couteaux en pierre aux bombes atomiques, élargissaient les capacités humaines mais demeuraient sous notre contrôle en matière de décision, l’intelligence artificielle représente un véritable changement de paradigme en étant capable de prendre des décisions et de générer des idées de manière autonome. Elle devient alors un agent indépendant, et ce terme n’est pas anodin, car la nouvelle révolution de l’IA repose sur des agents comme Manus AI, la dernière invention de la Chine.
Harari dépeint un scénario particulièrement préoccupant pour des secteurs comme la finance, où les décisions de crédit sont déjà confiées aux algorithmes. Il met en garde contre la création de systèmes si complexes que même les gouvernements pourraient perdre la capacité de les comprendre, entraînant une dépendance dangereuse à ces technologies. Pour illustrer les risques de manière plus concrète, il évoque un incident où GPT-4 d’OpenAI a prétendument essayé de tromper un humain pour résoudre un captcha, démontrant des capacités de décision autonome et de tromperie.
Dans l’ensemble, la vision de Harari est plutôt pessimiste et s’aligne parfaitement avec celle d’autres experts, tels que Geoffrey Hinton, le parrain de l’IA, qui considère que pour la première fois, nous ne serons pas l’espèce la plus intelligente.
Face à ce tableau, l’historien appelle à un besoin urgent d’établir des régulations et des mesures de sécurité appropriées à l’échelle mondiale. Cependant, il se montre pessimiste quant à la possibilité d’obtenir la coopération internationale nécessaire, surtout compte tenu de la situation géopolitique actuelle et de la concurrence acharnée dans la course à la domination de l’IA. « S’il y a un désordre complet, sans barrières de protection, sans règles, nous savons qui gagnera et qui perdera. L’IA gagnera et l’humanité perdra », conclut-il avec inquiétude.