Il s’agit d’une mesure, en essence, assez simple.
Récemment, Mustafá Suleyman – cofondateur de Google DeepMind – fait des gros titres qui ne laissent personne indifférent. Il a déjà parlé de métiers qui vont disparaître, rejoignant ainsi d’autres opinions aussi importantes que celles de Bill Gates qui ont distillé beaucoup de connaissances sur l’IA. Cette fois-ci, Suleyman a expliqué quelle est la clé pour éviter que l’IA puisse détruire l’humanité.
Ceci est une possibilité très éloignée, mais qui préoccupe depuis longtemps le grand public et les experts, car cela pourrait arriver et c’est un scénario que certains créateurs ont déjà envisagé. En réalité, le fondateur de OpenAI est déjà prêt à éteindre son IA si tout se passe mal et il a même un bunker préparé pour survivre à la fin du monde.
Mustafá Suleyman est beaucoup plus humble et a un plan très simple pour éviter d’en arriver là.
La stratégie simple pour éviter le danger de l’IA
Lors d’une entrevue pour le MIT Technology Test, Suleyman a été clair sur son idée d’éviter que l’IA ne pose un problème évident dans le futur. En réalité, c’est assez simple et c’est un plan qui n’a pratiquement aucune faille.
Cela consiste essentiellement à éviter l’amélioration récursive automatique. C’est-à-dire la capacité de l’IA à apprendre et à s’améliorer elle-même au point d’apprendre beaucoup plus par elle-même que ce que les humains permettent. Bien que cela soit un chemin qui permettrait à l’IA de s’améliorer de manière exponentielle, cela limiterait également la possibilité pour l’IA d’atteindre la conscience de soi et la capacité de manœuvrer contre l’être humain.
En mots de Suleyman :
Tu ne voudras pas que ton petit IA se mette à se mettre à jour elle-même sans ta permission.
L’objectif selon Suleyman consiste à établir des limites qu’elle ne peut pas franchir et à garantir qu’elles créent une sécurité tout au long du processus, un processus qui pourrait sembler logique de prime abord mais qui ne l’est pas tant que ça. De nombreux experts en IA veulent éviter toute limitation lorsqu’il s’agit d’enseigner aux IA, y compris l’utilisation de nos données personnelles pour simplifier et accélérer le processus.
Suleyman, en plus de diriger la division IA de Google, travaille également dans d’autres entreprises de développement d’intelligence artificielle, comme Inflection AI, où une IA appelée Pi aide les personnes souffrant de problèmes émotionnels.
C’est pourquoi les gouvernements et autres institutions cherchent à établir des limites claires dans la législation afin d’éviter que la situation ne dégénère. A un moment donné, de grands experts de cette technologie ont demandé que son développement soit mis en pause, afin d’établir en toute sécurité des marges que l’IA ne peut pas facilement éviter.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
