L’un des créateurs de ChatGPT met en garde : la probabilité d’une catastrophe pourrait être de 50 %

L'un des créateurs de ChatGPT met en garde : la probabilité d'une catastrophe pourrait être de 50 %

Les IA génèrent beaucoup d’attentes, mais aussi une grande peur de l’inconnu.

L'un des créateurs de ChatGPT met en garde : la probabilité d'une catastrophe pourrait être de 50 %
Le créateur de ChatGPT pense qu’une IA peut le tuer

Les IA nous font peur et nous rendent curieux à la fois. C’est notre création, mais comme pour beaucoup d’autres inventions, nous ne savons pas jusqu’où elles peuvent aller et si elles nous surprendront mal. Très récemment, Bill Gates a fait une prédiction sur les métiers qui vont disparaître, tandis qu’OpenAI lui-même, créateur de ChatGPT, a déjà lancé sa propre prédiction sur les métiers qui vont disparaître à cause de la technologie. Ainsi, nous sommes dans un moment d’incertitude maximale dans lequel il y a une réelle peur de ce qui peut arriver. Maintenant, un expert en IA qui a travaillé sur ChatGPT pense qu’il va mourir à cause des IA.

L’humanité pourrait être au bord de la destruction et Paul Christiano n’est pas particulièrement optimiste quant aux chances que cela se produise.

Une catastrophe qui pourrait arriver bientôt

Paul Christiano est le directeur du « Alignement Research Center », un centre de recherche qui tente « d’aligner » les intérêts de la future IA avec ceux de l’humanité afin qu’il n’y ait pas de problèmes entre l’un et l’autre. Il a précédemment travaillé pour OpenAI en essayant d’aligner l’IA derrière l’incroyable ChatGPT. Désormais, il a publié une lettre ouverte dans laquelle il répond à un détracteur des IA, expliquant quels sont les points sur lesquels il est d’accord et sur lesquels il ne l’est pas.

Ce détracteur était Eliezer Yudkowsky, qui est un ennemi si farouche de l’IA qu’il a le sentiment que les personnes qui s’y opposent sont un peu à la traîne. Cependant, il y a pas mal de points sur lesquels les deux sont d’accord, donc cela suscite beaucoup de crainte puisque nous parlons d’un des créateurs de ChatGPT.

Bien que Paul Christiano critique l’article de son collègue, assurant qu’il y a des arguments qui ne sont pas tout à fait vrais, il n’est pas non plus optimiste. Parmi ses déclarations il a assuré que :

« Nous avons environ 50 % de chances d’une catastrophe peu de temps après avoir créé des systèmes d’IA au niveau humain. »

Qu’est ce que ça indique? Qui croit qu’il y a une certaine probabilité qu’une IA devienne consciente d’elle-même et soit capable de se comporter de la même façon ou plus intelligemment qu’un humain au point de poser un vrai problème à l’humanité puisqu’elle pourrait nous interpeller ou tenter de nous détruire. Cela ressemble à l’intrigue de Terminator, puisque Skynet était une IA qui a pris conscience de la sienne et a fini par porter la guerre à l’humanité.

Bien que Christiano pense que nous pouvons gérer ces problèmes et que les êtres humains sont parfaitement capables de résoudre ces catastrophes, la vérité est que ce n’est pas très encourageant puisqu’il a également assuré que :

« Il y a une probabilité raisonnable que nous mourrons tous. Je pense que c’est la raison la plus sûre pour laquelle je mourrai personnellement. »

Il est vrai que peu de développeurs d’IA pensent que ce problème existera réellement. Certains s’y préparent, y compris leur ancien patron, qui voyage avec une mallette avec le bouton de panique nucléaire rouge pour désactiver ChatGPT-4 à tout moment dans le cas où il s’écarte définitivement des normes attendues et commence à fonctionner tout seul.

Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :

YouTube video