Yoshua Bengio, pionnier de l’intelligence artificielle, met en garde contre les dangers potentiels d’une IA qui pourrait rivaliser avec l’homme. Il appelle à réfléchir aux implications futures de telles technologies, cherchant à transmettre un héritage meilleur à ses enfants, bien loin des menaces de la compétitivité destructrice.
Yoshua Bengio est considéré comme l’un des pionniers de l’IA, aux côtés d’autres grandes figures influentes du domaine actuel.
À une époque où l’IA n’était qu’un sujet de films de science-fiction, Yoshua Bengio œuvrait déjà dans ce domaine, contribuant aux avancées majeures qui ont conduit à des IA aussi sophistiquées que ChatGPT ou Claude. Cependant, cela ne lui a pas fait devenir un fervent partisan de l’IA ; bien au contraire. L’un de ses principaux objectifs est d’alerter sur les menaces potentielles et d’éduquer le public sur les scénarios futurs qui se dessinent.
Bengio n’est pas le seul pionnier de l’IA à adopter ce point de vue, puisque Geoffrey Hinton a également affirmé que, pour la première fois, l’humanité ne serait pas l’espèce la plus intelligente, créant ainsi une dynamique de compétition préoccupante pour le futur de notre espèce.
C’est cet aspect qui a également préoccupé Yoshua Bengio. L’expert canadien a réfléchi à l’avenir de ses enfants et petits-enfants, et le tableau n’est pas très optimiste. Dans ses propres mots :
« Nous devons créer des machines qui nous ressemblent, mais sans la compétitivité. Leur survie ne doit pas prévaloir sur la nôtre. Actuellement, nous n’avons pas la réponse, et cela concerne l’ensemble de l’humanité car si nous introduisons un nouveau type d’entité qui rivalise avec nous et est plus puissante, nous serons perdus« .
La réflexion de Bengio sur ces questions a été alimentée par sa volonté de léguer un monde meilleur à ses descendants, plutôt qu’un environnement proche du cataclysme dû à la création d’entités incontrôlables.
Néanmoins, la vision négative de Bengio ne s’arrête pas là, car il considère l’IA comme quelque chose de très dangereux. Bien qu’il n’ait pas eu cette perception durant sa carrière d’ingénieur, son rôle actuel de professeur lui permet d’observer ces effets sous un angle différent.
Bengio, l’un des pessimistes de l’IA
Il est vrai que les perspectives sur l’avenir de l’IA sont très divergentes. Deux des représentants notables, Yoshua Bengio et Yann Lecun, ont des visions tellement opposées qu’il est surprenant d’analyser les contributions de chacun dans ce domaine de connaissance.
Alors que Lecun se montre plutôt optimiste quant à l’avenir de l’IA, Bengio fait preuve d’un grand pessimisme et met en garde contre les risques énormes qui existent si l’IA se retrouve entre de mauvaises mains. En fait, récemment, les deux hommes ont débattu sur le sujet, et Bengio a affirmé que les IA devenant de plus en plus avancées seraient également plus dangereuses.