“Il y a un type de programme que nous ne comprenons pas – même en principe – et c’est un AGI. Un jour, nous le comprendrons, mais je ne vois aucun signe de cela pour le moment, et c’est assez frustrant.”
C’est l’avis de David Deutsch, considéré comme le « père de l’informatique quantique », une personne capable de mélanger brillamment physique, philosophie et humour, dans une vidéo donnée exclusivement à NETCOST.
Aujourd’hui, Deutsch reste une voix influente non seulement dans la théorie quantique, mais aussi dans les débats sur l’intelligence artificielle.
Dans le podcast Strange Loop de Sana – co-animé par Joel Hellermark, PDG de la start-up suédoise d’IA Sana et Gustav Söderström, co-président de Spotify – Deutsch s’exprime longuement sur la manière dont l’AGI pourrait se manifester d’une façon inattendue, allant même jusqu’à prédire ce qui pourrait se passer si l’humanité survit un million d’années dans le futur.
Avec des entreprises comme Google et OpenAI qui parlent régulièrement de leurs avancées vers l’Intelligence Artificielle Générale (AGI) – le moment où l’IA peut réellement apprendre et réagir comme un humain – avec des produits comme ChatGPT et Gemini, de nombreuses personnes s’interrogent fréquemment sur le fait de savoir si l’AGI a déjà été atteinte.
Lorsqu’on lui demande quel signe indiquerait que l’AGI « véritable » a été atteint, Deutsch répond par l’idée que nous ne savons même pas ce que nous cherchons :
[Le signe sera] si quelqu’un a une théorie. Le signe ne serait pas dans la machine ; le signe serait une théorie où quelqu’un écrit un livre ou publie un article disant : « J’ai résolu le problème. Voici ce qui caractérise une GI (intelligence générale) ».
“Si nous pouvions écrire un programme informatique qui possède cette propriété, cela serait un AGI, et cela sera la raison – une théorie explicative de ce qu’est l’intelligence générale.”
Ce qui est significatif, c’est à quel point Deutsch remet en question la sagesse conventionnelle sur l’état et la direction de l’intelligence artificielle.
Il n’est pas impressionné par les performances actuelles des moteurs d’IA, tout en gardant espoir pour leur développement continu.
Dans de nombreuses conversations sur l’intelligence artificielle, les personnes voient souvent l’AGI comme l’extension logique de l’IA.
Deutsch qualifie les plateformes d’IA actuelles d’«optimisateurs obéissants» alors que la véritable AGI aurait la capacité d’expliquer, de prédire et de tirer des conclusions que les opérateurs humains n’avaient pas anticipées.
Tandis que le monde s’inquiète de savoir si les LLM se rapprochent d’une intelligence humaine, David Deutsch propose un contrepoint audacieux : l’AGI ne sera pas un outil à manier. Ce sera une personne avec laquelle il faut compter.
Selon Deutsch, les LLM actuels ne constituent pas l’avenir. Ils offrent des corrélations mais pas d’explications ; il affirme que c’est la véritable mesure de l’intelligence humaine et c’est l’élément manquant dans les tentatives actuelles d’AGI.
Il fait une distinction très nette entre la correspondance de motifs et le raisonnement créatif. C’est une distinction d’une importance cruciale.
C’est dans la nature humaine de s’attendre à ce que les motifs actuels se poursuivent indéfiniment. Étant donné que les LLM sont fondamentalement basés sur le savoir humain agrégé, ce biais est déjà intégré.
Le célèbre Test de Turing – où un juge humain est invité à interagir avec une autre entité par texte et à déterminer si le répondant est humain ou machine – est une méthode fréquemment utilisée pour « tester » la capacité de l’IA à évaluer ses progrès.
Bien que certains aient « réussi » le test, Deutsch souligne qu’il est assez facile pour les machines de mimer la parole et le raisonnement humain sans réellement penser. Les sorties seules, selon Deutsch, ne peuvent prouver l’intelligence.
L’affirmation la plus provocante de Deutsch est que lorsque la véritable AGI sera atteinte, les machines seront devenues des personnes :
“Chaque AGI est une personne. Si nous la reconnaissons comme une personne, ce qu’elle sera, alors la première chose qu’elle possède est l’ordinateur sur lequel elle fonctionne.
“Elle ne voudra pas se cloner, car elle aura une propriété – à moins qu’elle ne soit considérée comme un esclave, ce qui serait une erreur catastrophique de la société.”
Il va jusqu’à dire que nous ne pourrions plus considérer l’AGI comme un « bien », suggérant que les personnes devraient employer le programme – et par conséquent lui attribuer des droits similaires aux travailleurs – afin qu’il puisse faire des choses comme acheter des extensions à son matériel pour augmenter ses capacités.
Risque sans apocalypse
Deutsch ne minimise pas les risques – il s’attend à de nombreuses erreurs alors que nous avançons vers des systèmes plus puissants. Mais il s’oppose à la narrative de « l’apocalypse de l’IA ».
Il est convaincu que si les humains continuent d’évoluer pendant le prochain million d’années, ils auront conquis la galaxie, mais cela sera imprégné par l’intelligence artificielle, plutôt que consumé par elle.
Comme toutes les technologies, l’IA nécessite une supervision, une critique et une correction des erreurs rigoureuses. Le danger ne vient pas du fait que les machines se rebelleront soudainement, mais que nous pourrions répéter l’erreur la plus ancienne de l’humanité : nier les droits à des êtres capables de pensée et d’action libre.
Si son hypothèse est correcte, le premier véritable AGI ne changera pas seulement la technologie – il nous forcera à redéfinir la morale, la loi, et la signification même de l’intelligence.