Geoffrey Hinton, pionnier de l’intelligence artificielle, a averti que la probabilité d’une extinction humaine causée par cette technologie pourrait atteindre 10-20 % dans les trois prochaines décennies. Avec une rapidité d’évolution vertigineuse, il met en garde contre les dangers de systèmes intelligents échappant à notre contrôle.
Lors du programme Today de BBC Radio 4, Geoffrey Hinton a expliqué qu’il y a une probabilité de 10 à 20 % que, d’ici les trente prochaines années, l’intelligence artificielle provoque l’extinction de l’humanité.
Geoffrey Hinton, 75 ans, est l’un des pionniers de la recherche sur l’apprentissage profond des réseaux neuraux, le processus fondamental de l’intelligence artificielle générative. En d’autres termes, il est l’homme qui a tenté de construire des systèmes d’IA ressemblant au cerveau humain. En 2023, après une longue carrière, il a quitté Google pour alerter sur les risques des machines qu’il a lui-même créées.
Le dernier avertissement d’Hinton a été lancé lors de l’émission Today de BBC Radio 4. Selon le père de l’IA, “il y a une probabilité de 10-20 % que, dans les trente prochaines années, l’intelligence artificielle provoque l’extinction de l’humanité”. La technologie progresse « plus rapidement que prévu », et nous n’avons jamais eu à faire à quelque chose de plus intelligent que nous. « Et combien d’exemples connaissons-nous de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent? »
La grande peur de Geoffrey Hinton
Geoffrey Hinton a remporté, avec John J. Hopfield, le prix Nobel de physique 2024 pour ses découvertes en matière d’apprentissage automatique (intelligence artificielle) grâce à des réseaux neuraux artificiels, inspirés de la structure des réseaux de neurones de notre cerveau. Comme il l’a déjà expliqué dans une interview au New York Times, les chatbots sont “assez effrayants” et même si « pour le moment, ils ne sont pas plus intelligents que nous, je pense qu’ils pourraient bientôt l’être. »
Les logiciels pourraient également être instrumentalisés, déformés pour atteindre des objectifs dangereux. L’intelligence artificielle, selon Hinton, mettrait ensuite en péril la pluralité de pensée, considérant ses réponses similaires et conformes à l’idéologie dominante.
« Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous possédons. Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble, le même modèle du monde”, le risque étant de standardiser la pensée à travers des réponses uniformes.
« C’est comme si j’avais 10 000 personnes et chaque fois qu’une personne a appris quelque chose, tout le monde le sait automatiquement. C’est ainsi que ces chatbots peuvent savoir beaucoup plus que n’importe quelle personne. » Comme l’explique le père de l’IA, colmater toutes les failles est une course contre la montre : « Regardez comment c’était il y a cinq ans et comment c’est maintenant« .
Comment se protéger d’une IA plus intelligente que les humains
« Nous n’avons aucune expérience de la signification d’avoir des choses plus intelligentes que nous », a déclaré Hinton lors d’un appel avec la commission Nobel. « Ce sera merveilleux à bien des égards… Cela signifiera d’énormes améliorations de la productivité. Mais nous devons également nous inquiéter d’une série de conséquences négatives possibles, en particulier la menace que ces choses échappent à notre contrôle. »
Selon Hinton, il est également nécessaire d’introduire de nouvelles lois pour réguler l’IA « si nous la laissons entre les mains des entreprises qui la produisent et qui cherchent le profit, elle ne sera pas développée en toute sécurité. La seule chose qui peut pousser ces grandes entreprises à mener davantage de recherches sur la sécurité est une réglementation gouvernementale.”