Les inquiétudes concernant les risques que la technologie de l’Intelligence Artificielle pourrait poser à l’humanité continuent d’alimenter les débats. Cependant, une récente recherche des universités de Bath et de Darmstadt apporte des éclaircissements sur la question, soulignant que les modèles de langage, comme ChatGPT, n’ont pas la capacité d’apprendre de manière autonome.
Une récente recherche de l’Université de Bath et de l’Université Technique de Darmstadt en Allemagne assure que les modèles de langage (LLM) comme ChatGPT ne peuvent pas apprendre de manière autonome ni acquérir de nouvelles compétences
Le développement rapide de l’intelligence artificielle au cours des dernières années amène de nombreux experts à se demander jusqu’où cette technologie pourrait aller et quelles pourraient être les conséquences de son évolution. À cet égard, plusieurs chercheurs ont averti que l’IA pourrait nous laisser sans emploi et qu’elle pourrait même mener à l’extinction de l’humanité.
Si vous êtes inquiet pour l’avenir de la race humaine, arrêtez de l’être, car une nouvelle étude vient de confirmer que l’IA ne représente pas une menace pour l’humanité.
L’IA n’est pas un risque pour l’avenir de l’humanité, selon une récente étude
Récemment, le site web de l’Université britannique de Bath a rapporté une recherche menée par cette université en collaboration avec des experts de l’Université Technique de Darmstadt en Allemagne, qui affirme que ChatGPT et d’autres modèles de langage de grande taille (LLM) ne peuvent pas apprendre de manière autonome ni acquérir de nouvelles compétences, ce qui signifie qu’ils ne représentent pas une menace réelle pour l’humanité.
Cette étude révèle que les LLM ont une capacité superficielle à suivre des instructions et à maîtriser le langage, mais qu’ils n’ont pas le potentiel d’apprendre de nouvelles compétences sans instructions préalables.
Cela signifie que les modèles de langage de grande taille « restent intrinsèquement contrôlables, prévisibles et sûrs ».
De plus, selon ces experts, il est probable qu’avec le temps, ces modèles parviennent à générer un langage plus sophistiqué et à vous donner des instructions plus explicites et détaillées, mais il est hautement improbable qu’ils puissent acquérir des compétences de raisonnement complexes.
Pour mener à bien cette étude, les chercheurs des deux universités ont réalisé des expériences pour tester la capacité des LLM à accomplir des tâches avec lesquelles les modèles n’avaient jamais été confrontés auparavant : les compétences émergentes et ces tests ont clairement démontré l’absence de compétences de raisonnement complexes émergentes chez les LLM.
À cet égard, le Dr Harish Tayyar Madabushi, informaticien de l’Université de Bath et co-auteur de cette étude, affirme que la peur que l’IA puisse mettre fin à l’humanité est totalement infondée :
« Bien qu’il soit important d’aborder le potentiel d’utilisation abusive de l’IA, comme la création de fausses nouvelles et l’augmentation du risque de fraude, il serait prématuré d’instaurer des réglementations basées sur des menaces existentielles perçues. Ce que cela signifie pour les utilisateurs finaux, c’est que compter sur les LLM pour interpréter et réaliser des tâches complexes nécessitant un raisonnement complexe sans instructions explicites est probablement une erreur. Au contraire, il est probable que les utilisateurs bénéficient de la spécification explicite de ce qu’ils demandent aux modèles de faire et de fournir des exemples quand c’est possible pour toutes les tâches, sauf les plus simples ».