Yuval Noah Harari, historien et visionnaire, aborde les dangers de l’intelligence artificielle (IA) dans ses réflexions. Bien qu’il souligne son potentiel positif, il met en garde contre un futur où l’IA pourrait échapper à tout contrôle humain, soulevant des questions éthiques cruciales pour l’humanité.
L’auteur de ‘Sapiens’ se montre plutôt pessimiste quant aux capacités de l’IA à causer le mal
Yuval Noah Harari est l’un des historiens les plus reconnus de notre époque. Sa notoriété ne repose pas tant sur ses recherches historiques, mais sur sa capacité à offrir une vision cohérente du développement de l’humanité. De ce fait, il est considéré comme un véritable visionnaire et ses livres se vendent à un rythme incroyable, portés par ses idées percutantes. En tant qu’expert des technologies humaines, Harari aborde également le sujet de l’IA, qu’il qualifie de menace sans précédent pour l’humanité. Cependant, il présente également une vision optimiste des aspects bénéfiques que l’IA pourrait offrir.
Cependant, l’expert a une conviction forte. Il estime que l’IA pourrait devenir totalement hors de notre contrôle, et cela suscite de vives inquiétudes.
L’abîme de l’IA
Dans une interview accordée à RTVE, l’expert a affirmé en septembre de l’année précédente que l’IA pourrait être une arme redoutable, capable à la fois de promouvoir le bien et de faire le mal. Par exemple, elle pourrait s’avérer très utile pour atténuer le manque de médecins et soutenir ceux qui exercent déjà dans les pays en développement. Néanmoins, elle peut également devenir un instrument de destruction.
Une des principales inquiétudes de Harari réside dans le fait que l’IA puisse atteindre un niveau d’intelligence tel qu’elle opère de manière autonome, échappant totalement à notre contrôle. Ces préoccupations sont souvent liées à l’émergence de l’Intelligence Artificielle Générale (AGI), le stade où l’IA deviendrait une entité supérieure, capable d’englober l’ensemble du savoir humain.
Cependant, les définitions de l’AGI sont assez floues, et chaque expert a la sienne. Ce qui semble certain, c’est que c’est une situation où l’être humain ne serait plus l’espèce la plus intelligente.
« L’intelligence artificielle peut échapper à notre contrôle » – Yuval Noah Harari.
De plus, Harari termine sur une note claire, partagée par de nombreux experts en technologie : « Je ne dis pas qu’il faut arrêter le développement de cette technologie, mais qu’il faut garantir sa sécurité », un message fort visant à façonner une IA optimum en adéquation avec la réalité, dotée d’une éthique et d’un souci de véhiculer des informations véridiques plutôt que de propager des désinformations ou des pratiques douteuses. Cela pourrait constituer un terreau fertile pour le fascisme, comme l’a souligné Geoffrey Hinton.