Découvrir si l’IA est devenue consciente d’elle-même: c’est la grande préoccupation de la science

Descubrir si la IA se ha vuelto autoconsciente: esta es la gran preocupación de la ciencia

Ce sont de plus en plus de personnes dans la communauté scientifique qui alertent des dangers de l’IA.

Découvrir si l'IA est devenue autoconsciente : c'est la grande préoccupation de la science
L’autoconscience inquiète la science

Au début de Blade Runner, nous voyons un technicien faire le test de Turing pour déterminer si l’interviewé est humain ou non. Ce qui était de la science-fiction authentique dans les années 80 semble être très proche de devenir réalité chaque jour. Nous avons vu ces derniers mois le robot humanoïde le plus avancé au monde se déclarer autoconscient, il semble donc que nous vivions un moment d’une grande importance pour l’histoire de l’humanité.

Des IA comme ChatGPT-4 ont réalisé des avancées inédites pour la science. Et bien qu’il y ait de nombreuses craintes à l’horizon, telles que les emplois qui vont disparaître, il est certain que nous sommes confrontés à des questions encore plus préoccupantes, comme ne pas savoir réellement si l’être humain a créé des robots autoconscients.

C’est pourquoi un groupe de scientifiques comprenant un expert d’OpenAI travaille à la découverte de moyens de détecter ces problèmes avant qu’il ne soit trop tard.

Le plan pour découvrir l’autoconscience de la machine

Lukas Berglund et ses collègues de différentes institutions ont publié une prépublication sur Arxiv.org dans laquelle ils expliquent que nous devons être prêts pour ce que l’IA peut représenter. En grande partie parce que plus elle se rapproche de l’intelligence humaine, plus l’IA pose des difficultés notables pour déterminer si elle a réellement atteint l’autoconscience ou si elle peut contourner les protocoles de sécurité installés afin de ne pas prendre de mesures préjudiciables pour les êtres humains.

Berglund et son équipe ont conclu que la nécessité d’étudier ces technologies est de rester vigilant face aux dangers potentiels :

En raison de ces risques, il est important de prédire quand une situation nécessitera de rester en alerte.

Dans ce cadre, ils travaillent dur pour renforcer les algorithmes qui permettent à l’IA de fonctionner de la meilleure manière possible tout en restant sûre pour tous. C’est pourquoi ils souhaitent étudier un test qui permette de détecter à quelle phase se trouve l’IA et de déterminer comment elle fonctionne et raisonne. Cela peut sembler anodin a priori, mais c’est en réalité d’une importance fondamentale compte tenu de la rapidité des progrès réalisés par les intelligences artificielles et de la capacité de calcul récemment atteinte.

Pour récapituler :

  • Il y a de plus en plus de préoccupations concernant l’IA, notamment sur la proximité avec l’intelligence purement humaine.
  • Jusqu’à présent, le test de Turing était le moyen le plus fiable de déterminer si nous avions affaire à un robot ou à un être humain.
  • Avec les dernières IA, il est de plus en plus nécessaire de renforcer et d’améliorer ce test, car il est devenu insuffisant.
  • Maintenant, une équipe de scientifiques a cherché à approfondir l’efficacité de ces tests sur les chatbots actuels.
  • Il est surtout important de noter qu’aujourd’hui, il existe de plus en plus de moyens d’éviter les limites de sécurité des chatbots.
  • Cela permet de les contourner et donc de les utiliser à des fins malveillantes.
  • L’objectif de cette étude est de développer un test permettant de détecter les IA en fonction de leur fonctionnement.

Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :

YouTube video