L’intelligence artificielle a connu des progrès remarquables récemment, suscitant des interrogations quant à ses implications pour l’humanité. Des recherches récentes éclairent le débat, suggérant que ces avancées ne constituent pas une menace. Une analyse approfondie révèle des compréhensions essentielles sur les capacités réelles de l’IA et son interaction avec notre quotidien.
L’IA a évolué à grands pas ces deux dernières années, mais cela ne suffit pas à représenter un risque pour l’humanité
GPT-4 et Claude ne représentent que la pointe de l’iceberg de ce qu’est devenu l’intelligence artificielle pour l’humanité. Ils facilitent notre quotidien, notre travail et absolument tout autre aspect pertinent de notre vie. Dans ce contexte, nous avons souvent entendu que l’IA pourrait poser un danger pour l’humanité, mais est-ce vraiment le cas ? Selon une étude qui a examiné la capacité de l’IA à apprendre de nouvelles fonctions par elle-même ce n’est pas un danger en soi.
Les compétences émergentes et le danger qu’elles supposément représentaient
Une étude récente remet en question l’existence des dites compétences émergentes dans les modèles de langage à grande échelle (LLMs). Les compétences émergentes désignent celles que l’IA pourrait acquérir sans aucun type de formation spécifique, mais simplement en interagissant avec son environnement. Jusqu’à présent, elles avaient été considérées comme un danger, car il s’agit de compétences acquises de manière imprévue pouvant s’avérer nuisibles pour l’humanité. Cependant, il semble que ce ne soit pas le cas.
Les chercheurs ont réalisé plus de 1000 expériences avec différents types et tailles de modèles et de tâches pour examiner rigoureusement ce phénomène. Leurs résultats ne laissent aucun doute quant au risque que cela pourrait représenter : en contrôlant l’apprentissage contextuel et l’ajustement des instructions, ils n’ont trouvé aucune preuve de compétences linguistiques fonctionnelles émergentes, comme le raisonnement humain. C’est pourquoi ils estiment que des questions telles que l’atteinte d’une intelligence artificielle générale ou AGI sont aujourd’hui impensables.
Les compétences émergentes apparentes peuvent s’expliquer par une combinaison de l’apprentissage contextuel, de la mémoire du modèle et des connaissances linguistiques, mais cela ne signifie pas qu’il développe de nouvelles compétences, simplement qu’il applique de manière concrète celles qu’il possède déjà. Dans le cas des modèles ajustés avec des instructions, les auteurs suggèrent que cet ajustement permet aux modèles de tirer parti implicitement de l’apprentissage contextuel, au lieu de développer de nouvelles compétences. Il est probable que vous ayez utilisé un LLM et ressenti que le modèle avait évolué en fonction de ce que vous lui aviez enseigné, alors qu’en réalité, il utilisait de manière plus efficace ses compétences acquises.
Ces résultats indiquent que les capacités des LLMs ne doivent pas être surestimées et aident à comprendre pourquoi les modèles peuvent exceller dans certaines tâches tout en échouant dans d’autres. L’objectif de l’étude est atteint en soulignant que nous ne sommes pas dans une situation où la technologie est problématique pour nous et tout indique que cela ne va pas évoluer dans cette direction. L’évolutivité des modèles de langage actuels ne conduira pas à de nouvelles compétences imprévisibles, mais plutôt à tout le contraire.
En fait, l’étude se termine de manière très intéressante en soulignant que nous devons être plus critiques sur la manière d’analyser les capacités et les caractéristiques de ces technologies, car nous avons tendance à les juger par avance comme étant bien plus avancées qu’elles ne le sont déjà. Ce qui est quelque part normal, car