Une discussion passionnante entre deux figures de proue de l’intelligence artificielle met en lumière des visions opposées sur l’avenir de cette technologie. Alors que l’un prône un optimisme mesuré, l’autre met en garde contre les dangers potentiels d’une IA avancée tombant entre de mauvaises mains, soulevant des questions essentielles sur la sécurité et la gouvernance.
Yoshua Bengio est, sans doute, l’une des trois figures emblématiques de l’Intelligence Artificielle (IA). Avec Geoffrey Hinton et Yann Lecun, il a largement contribué au développement de cette technologie grâce à leurs travaux sur les fondements qui la rendent possible. Chacun de ces trois experts adopte une perspective différente sur l’évolution de l’IA. Tandis que Hinton et Bengio craignent les conséquences de cette technologie, Lecun se positionne comme un fervent défenseur de ses possibilités.
En 2023, Lecun a exprimé des avis optimistes sur l’IA, estimant qu’aborder des « scénarios catastrophiques » n’était pas sérieux. Cela l’a conduit à publier un message sur Facebook, accessible au grand public. En réaction, son collègue Yoshua Bengio a vigoureusement défendu sa vision face à l’optimisme de Lecun concernant cette technologie.
Un débat animé entre deux pionniers de l’IA
Selon Lecun, il existe une « majorité silencieuse de scientifiques en IA » qui n’adhèrent pas à l’idée de « scénarios d’extinction dus à l’IA ». Il a également souligné que le code ouvert et la capacité humaine à gérer les défis posés par une intelligence artificielle véritablement avancée seraient suffisants pour y faire face. Contrairement à cette perspective, Yoshua Bengio a réagi fermement à cette déclaration.
« Les futurs systèmes d’IA seront sans aucun doute plus puissants et, par conséquent, plus dangereux s’ils tombent entre de mauvaises mains » – Yoshua Bengio
Bien qu’ils soient collègues et compatriotes, cela n’a pas empêché Bengio de s’exprimer clairement, fondant son argumentation sur des années de recherche pour développer des IA. Il a d’abord souligné que la conception sécurisée d’intelligences artificielles puissantes reste un défi. Pour lui, créer un système très avancé est périlleux, car cela pourrait générer des entités plus intelligentes que l’humanité elle-même, appelées à développer un « intérêt propre ».
De plus, Bengio a insisté sur la nécessité d’investir davantage dans la sécurité plutôt que de compter uniquement sur notre capacité décisionnelle. « Il est vrai que nous avons cette capacité, mais actuellement, nous investissons entre 50 et 100 fois plus dans les capacités d’IA que dans la sécurisation et la gouvernance ».
En conclusion, il a défendu l’idée du code ouvert comme mode opératoire, un principe qu’il soutient inconditionnellement. Cependant, il a mis en garde contre le risque que l’IA se retrouve entre des mains inappropriées, ce qui équivaut à « fournir des armes dangereuses à tout un chacun ». Cela pourrait être très problématique, et Bengio estime qu’il est crucial d’exercer des contrôles stricts, tout comme il existe une législation sur les armes à travers le monde.
Dans cette optique, Bengio a demandé à son collègue de prendre conscience de ses actes, car il considère que les opinions de Lecun sont fondamentalement erronées, surtout à l’aune de sa conviction que l’IA deviendra bientôt supérieure aux capacités humaines.