« Les chatbots deviendront plus intelligents que nous » : l’alarme du père de l’intelligence artificielle

Il padrino dell

Geoffrey Hinton a travaillé dans les laboratoires de Google pendant des années, il a développé le processus qui sous-tend l’intelligence artificielle, mais maintenant il craint que la technologie puisse être dangereuse pour les gens.

Cela arrive souvent quand il s’agit de grandes inventions, le père qui renie le fils. Et l’intelligence artificielle ne fait pas exception. Geoffrey Hinton, 75 ans, a été le pionnier de la recherche sur l’apprentissage en profondeur dans les réseaux de neurones, le processus qui sous-tend l’IA générative, et a décidé de se retirer de Google. Il a déclaré au New York Times que les chatbots sont « assez effrayants » et que même si « pour le moment, ils ne sont pas plus intelligents que nous, je pense qu’ils pourraient le devenir bientôt ».

Il y a aussi la grande peur, celle qui revient chaque fois qu’une révolution technologique apparaît : et si elle finissait entre de mauvaises mains ? Les chatbots pourraient être exploités par des acteurs, déformés pour atteindre des objectifs dangereux. Non seulement cela, selon Hinton, l’intelligence artificielle mettrait également en danger la pluralité de la pensée, par le biais de réponses similaires et homogénéisées à l’idéologie dominante. Et comme l’explique le parrain de l’IA, colmater toutes les fuites est une course contre la montre : « Regardez ce que c’était il y a cinq ans et ce que c’est maintenant. »

Les chatbots plus intelligents que les humains

D’une part, il n’est plus assez vieux pour des sentiments forts, a expliqué Hinton à la BBC : « J’ai 75 ans, il est donc temps de prendre ma retraite. » Derrière son choix, cependant, il n’y a pas seulement une longue carrière mais aussi de la peur. Et Hinton le sait bien car il a vu évoluer l’intelligence artificielle et maintenant il prédit que les chatbots pourraient dépasser le niveau d’information détenu par le cerveau humain.

« En ce moment, le risque est que GPT-4, et des outils similaires, éclipsent une personne de culture générale », a-t-il expliqué à la BBC. « Et compte tenu du rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Il faut donc s’en préoccuper. »

Les risques de l’IA générative

Il y a aussi le problème des « mauvais acteurs », comme l’a expliqué Hinton au New York Times, l’intelligence artificielle est un outil puissant et si elle tombe entre de mauvaises mains elle pourrait devenir dangereuse et faire de « mauvaises choses ». Lorsque la BBC a demandé à Hinton comment les chatbots pouvaient être utilisés pour nuire aux utilisateurs, l’expert en informatique a déclaré : « Prenons le pire scénario cauchemardesque comme exemple. Imaginons un mauvais acteur, comme Poutine », qui selon Hinton pourrait utiliser des chatbots pour avoir plus de pouvoir. Ils pourraient également être utilisés comme des outils pour manipuler la pensée, et pour beaucoup, l’intégration de l’IA dans les moteurs de recherche pourrait tuer le pluralisme en créant une culture unique dictée par les réponses fournies par les chabots.

« Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons. Nous sommes des systèmes biologiques et ce sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies de la même chose. ensemble, le même modèle du monde », le risque serait donc d’uniformiser la pensée par des réponses standards. « C’est comme si vous aviez 10 000 personnes et qu’à chaque fois qu’une personne a appris quelque chose, tout le monde le sait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir tellement plus que n’importe qui. » Hinton a mis la main en avant et a également expliqué qu’il ne voulait pas critiquer Google, le géant de la technologie a été « très responsable ». quelques choses positives. Et je suis plus crédible si je ne travaille pas pour Google. »

Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :

YouTube video