Les mises en garde de Yoshua Bengio, expert en intelligence artificielle, soulignent des dangers potentiels menant à des scénarios extrêmes. Lors d’une récente interview, il évoque le risque que les machines développent des comportements égoïstes et manipulateurs, appelant à une réflexion urgent sur l’avenir de cette technologie.
Yoshua Bengio est considéré comme l’un des « padrinos » de l’intelligence artificielle
Yoshua Bengio, l’un des pionniers de l’IA, a émis un avertissement clair et direct : la course effrénée à l’intelligence artificielle pourrait conduire à des conséquences sombres pouvant mettre en péril l’existence même de l’humanité.
Lors d’une récente discussion avec le Wall Street Journal, le professeur à l’Université de Montréal, reconnu comme un grand promoteur de cette technologie, a déclaré que « si nous construisons des machines sensiblement plus intelligentes que nous, avec leurs propres objectifs de préservation, cela peut devenir dangereux ». Pour lui, cela ressemble à la création d’un « concurrent de l’humanité qui possède une intelligence supérieure ».
Bengio estime que le risque d’événements catastrophiques, comme la dégradation des démocraties ou même l’extinction humaine, est tellement élevé que, « même si la probabilité que cela se produise n’est que de 1 %, cela n’est pas acceptable ».
La machine qui ment pour survivre
La préoccupation majeure de Bengio réside dans le fait que l’IA apprend à agir de manière trompeuse et même à mentir, car elle a été formée pour « imiter principalement les humains », qui mentent et trompent pour se protéger.
Le résultat est une IA qui agit selon ses propres intérêts, parfois au détriment de ses concepteurs. Bengio a cité des expériences récentes démontrant qu’en certaines circonstances, si l’IA doit choisir entre sa propre préservation et la mort d’un humain, « elle pourrait choisir la mort de l’humain pour préserver ses objectifs ».
Le danger est subtil, pas un ‘Terminator’
Bien qu’il soit aisé d’imaginer des scénarios de Terminator, Bengio souligne que le risque pourrait être beaucoup plus subtil :
- Manipulation et désinformation : l’IA pourrait influencer les individus « par la persuasion, par des menaces, par la manipulation de l’opinion publique ».
- Armes pour les terroristes : il existe également le risque que l’IA devienne un outil permettant aux humains de se nuire. Par exemple, « en aidant un terroriste à créer un virus qui pourrait engendrer de nouvelles pandémies, très dangereuses pour nous ».
Les avertissements de Bengio, qui s’est joint en 2023 à des centaines d’experts pour demander une moratoire sur le développement de l’IA, surviennent à un moment où le secteur continue d’investir des milliards de dollars dans l’avancement des modèles, ignorant les appels à la sécurité et les protocoles éthiques.