La variable qui peut condamner l’être humain: pourquoi notre espèce est en danger à cause de l’IA

La variable que puede condenar al ser humano: por qué nuestra especie está en peligro por la IA

Il existe une réelle crainte que l’IA puisse dépasser les limites établies et poser un problème pour l’être humain.

La variable que puede condenar al ser humano: por qué nuestra especie está en peligro por la IA
La conscience de soi inquiète la science

Nous avons été préoccupés par l’IA depuis que GPT-4 a été annoncé. Avant cette version, GPT-3 avait déjà une base d’utilisateurs importante, mais son explosion a été définitive avec la dernière version. Depuis lors, de nombreux sujets ont préoccupé le grand public, tels que les professions qui vont disparaître, mais ce qui préoccupe vraiment, c’est la possibilité que l’IA devienne consciente d’elle-même ou qu’elle représente un danger pour l’humanité et finisse par l’éteindre.

En réalité, nous avons vu de grands génies comme Bill Gates le comparer à une bombe nucléaire. Il n’est donc pas étonnant qu’il y ait de plus en plus de voix qui parlent de réglementer l’IA de la manière la plus remarquable possible.

La prédiction alarmante qui a été lancée depuis la Silicon Valley

Le New York Times a expliqué le fonctionnement de la variable P(Doom). Il s’agit d’une variable informelle et sans base scientifique qui cherche à expliquer la possibilité que l’humanité soit condamnée par une invention ou une découverte.

Ainsi, il s’agit d’une manière curieuse de donner son avis sur la possibilité que quelque chose puisse se retourner contre ses créateurs. Le problème est que derrière cette question, bon nombre d’experts en IA croient qu’il existe une certaine possibilité que l’IA se retourne contre l’être humain et crée un danger que nous n’avons pas vu venir.

C’est un aspect vraiment intéressant car il soulève une question de risques par rapport à des avantages. L’IA peut-elle condamner l’humanité? Il semble que tout indique que oui. Cependant, le principal problème de tout cela est qu’elle peut aussi en bénéficier et vivre un bond de qualité dans de nombreux domaines. Ainsi, il peut valoir la peine de prendre quelques risques jusqu’à un certain point, tout comme cela s’est produit avec l’énergie nucléaire (qui a commencé de manière assez funeste) ou avec d’autres inventions.

En résumé:

  • Il existe une variable dans les cercles technologiques appelée P(Doom).
  • C’est la possibilité de la mort ou de l’extinction de la race humaine de 0 à 100%.
  • C’est une mesure informelle, qui n’est pas basée sur une norme spécifique et totalement non scientifique.
  • Certains dirigeants estiment qu’il y a 50% de chances que l’humanité soit condamnée, tandis que d’autres pensent que cela se situe entre 5 et 15%.

Bien que cela reste anecdotique, le simple fait que cela soit posé montre déjà le danger pour l’humanité lors de son développement. Le simple fait qu’il y ait des experts qui croient qu’il y a 50% de chances que l’humanité soit condamnée et finisse par disparaître à cause de l’IA pose un précédent clair sur ce que l’homme fait et quelles sortes de technologies il commence à manipuler.

Cela ne signifie pas que ce soit quelque chose de négatif, car cela peut également entraîner un énorme bond en termes de qualité de vie quotidienne pour les humains. Mais il est vrai que, dans un premier temps, cela peut également poser de nombreux problèmes.