Geoffrey Hinton, lauréat du prix Nobel pour ses travaux sur l’intelligence artificielle, exprime des inquiétudes croissantes à propos de sa propre création. Malgré son succès, il met en garde contre les implications potentielles d’une intelligence qui pourrait surpasser celle de l’homme, plaidant pour une évaluation prudente de cette technologie en pleine évolution.

Intelligence artificielle (IA)

Hinton a consacré sa carrière à développer des machines de plus en plus semblables au cerveau humain, après avoir travaillé pendant des années au sein de l’équipe de pointe en apprentissage automatique de Google, il a lancé son alerte : « Nous ne savons pas ce que cela indique d’avoir des choses plus intelligentes que nous. »

Le syndrome du détruiseur de mondes est une constante dans l’histoire de la science. Dans la liste des grands inventeurs contrit, on trouve également Geoffrey Hinton, qui vient de recevoir, avec John J. Hopfield, le prix Nobel de physique pour ses découvertes dans le domaine de l’apprentissage automatisé (intelligence artificielle) avec des réseaux neuronaux artificiels, inspirés de la structure des réseaux de neurones de notre cerveau. Ces derniers mois, Hinton a été rebaptisé le parrain de l’intelligence artificielle. D’autre part, il a passé sa carrière à développer des systèmes d’IA similaires au cerveau humain.

La thèse qu’il a toujours soutenue est simple : le cerveau est supérieur aux machines, donc les machines pour progresser doivent devenir de plus en plus semblables au cerveau. Cela fonctionne, à tel point qu’en 2023, il lance son alerte : « L’intelligence numérique que nous avons maintenant pourrait être meilleure que n’importe quel cerveau. Elle n’est simplement pas encore assez grande ».

Dans une interview au New York Times, Hinton a admis : « Je me console avec la vieille excuse : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait« . Comme c’est souvent le cas dans l’histoire des grandes inventions, le père finit par renier son fils. Hinton a été récompensé pour avoir créé une mémoire associative capable de stocker et de reconstruire des images et d’autres types de modèles dans les données, et lors d’un appel avec le comité Nobel, il a réaffirmé ses doutes : « Je suis stupéfait par ce prix », a-t-il déclaré.

Qui est Geoffrey Hinton

Hinton descend d’une longue lignée de sommités. Parmi eux, la mathématicienne Mary Everest Boole et le logicien George Boole, piliers de l’informatique contemporaine, le chirurgien James Hinton, et le géomètre George Everest, qui a donné son nom à la montagne. Il a toujours été fasciné par le cerveau humain, tant et si bien qu’après avoir suivi des cours de mathématiques, de physique et de philosophie à l’université de Cambridge, il décide de décrocher un diplôme en psychologie expérimentale en 1970.

Après l’obtention de son diplôme, il commence à travailler comme ébéniste, puis décide de commencer un doctorat en intelligence artificielle à l’Université d’Édimbourg, la seule ayant un programme de troisième cycle du Royaume-Unis sur l’IA. C’étaient les années 70. La Seconde Guerre mondiale avait assombri tout enthousiasme pour l’IA, si bien que la période suivante a été baptisée l’hiver de l’intelligence artificielle.

Cependant, Hinton croit encore en l’IA, ce qui le pousse à investir tout dans les réseaux neuronaux. Ils doivent fonctionner comme un cerveau humain, au moins imiter celui-ci, c’est la thèse de son doctorat, et chaque fois que son directeur tente de le dissuader en lui proposant des alternatives, Hinton répond : « Donnez-moi six mois de plus et je vous prouverai que cela fonctionne« .

Le grand projet du parrain de l’intelligence artificielle

Hinton émigre aux États-Unis après son doctorat. Il suit l’argent, de l’autre côté de l’océan, il y a effectivement des financements pour sa recherche. Les États-Unis recommencent à croire en l’intelligence artificielle et sont prêts à accueillir les futurs pionniers de la Silicon Valley. Parmi eux, Hinton accepte la chaire d’informatique à l’Université de Toronto. En 2012, avec deux de ses anciens étudiants, Alex Krizhevsky et Ilya Sutskever (désormais scientifique en chef chez OpenAI), il participe à ImageNet, une compétition pour construire les systèmes d’intelligence artificielle les plus précis pour la reconnaissance d’images.

Le concours est une vitrine, les modèles créés par Hinton fonctionnent et attirent des investisseurs potentiels, dont Google, Microsoft, Baidu et DeepMind. Une semaine après, Hinton choisit Google, et en 2013, il intègre l’équipe d’apprentissage automatique à la pointe.

Sa contribution est déterminante. En effet, en 2018, il reçoit, avec Yann LeCun et Yoshua Bengio, le prix Turing « pour les contributions conceptuelles et techniques révolutionnaires qui ont rendu les réseaux neuronaux profonds un élément informatique incontournable ». La même année, il est nommé compagnon de l’Ordre du Canada.

La peur de Geoffrey Hinton

Après une vie à construire des machines semblables aux hommes, Hinton fait un pas en arrière, démissionne de Google et lance son alerte. Comme il l’a expliqué dans une interview au New York Times, les chatbots sont « assez effrayants », et même si « pour l’instant, ils ne sont pas plus intelligents que nous, je pense qu’ils le seront bientôt. »

De plus, ils pourraient être instrumentalisés, déformés pour atteindre des objectifs dangereux. L’intelligence artificielle, selon Hinton, mettrait également en péril la pluralité des pensées, via des réponses semblables et homogénéisées à l’idéologie dominante. Comme l’explique le parrain de l’IA, colmater toutes les brèches est une course contre la montre : « Regarde comment c’était il y a cinq ans et comment c’est maintenant« .

Hinton suit maintenant le parcours d’une autre de ses célèbres parentes, Joan Hinton, l’une des rares femmes à avoir travaillé sur le projet Manhattan. Cette physicienne, après avoir contribué à construire les armes nucléaires, est devenue activiste pour la paix. Aujourd’hui, le prix Nobel conseille la prudence : « Il ne faut pas appliquer la technologie à grande échelle tant que nous ne sommes pas confiants d’avoir le contrôle ». Conscient des dynamiques du marché, Hinton prévoit « une série de conséquences négatives possibles« .

« Nous n’avons pas d’expérience de ce que cela indique d’avoir des choses plus intelligentes que nous« , a déclaré Hinton lors d’un appel avec la commission Nobel. « Cela sera merveilleux à bien des égards… Cela signifiera d’énormes améliorations de productivité. Mais nous devons également nous préoccuper d’une série de conséquences négatives , notamment la menace que ces choses échappent à notre contrôle« .