Un récent étude révèle que l’utilisation de l’intelligence artificielle (IA) pourrait amener à une surestimation des compétences des utilisateurs, éliminant ainsi le célèbre effet Dunning-Kruger. Les résultats soulignent la nécessité de reconsidérer les implications de cette technologie sur notre évaluation personnelle des performances.
Parmi les divers effets de l’intelligence artificielle (IA), une étude récente met en avant un aspect intrigant : en réduisant l’effet Dunning-Kruger, cette technologie entraîne les utilisateurs à surestimer leurs compétences.
Nous avons tendance à mal évaluer notre propre performance dans diverses tâches. Ce phénomène connu sous le nom d’effet Dunning-Kruger, d’après les psychologues qui l’ont étudié, pousse ceux qui ont moins de compétences à faire preuve d’une confiance excessive, alors que les plus compétents sous-estiment souvent leurs capacités.
Cependant, des chercheurs de l’Université Aalto en Finlande, en collaboration avec des équipes d’Allemagne et du Canada, ont découvert que l’utilisation de l’IA élimine presque entièrement cet effet.
Pour leur étude, les scientifiques ont fait passer des tests de logique à 500 participants, en laissant la moitié d’entre eux utiliser le chatbot ChatGPT.
Les participants ont ensuite été évalués sur leurs connaissances en IA et sur leur perception de leur performance. Une compensation supplémentaire a été promise pour une auto-évaluation correcte de leurs résultats.
Incapacité à évaluer la performance personnelle avec l’IA
Selon les recherches, l’utilisation de chatbots pour résoudre des problèmes a entraîné une confiance excessive chez tous les participants, peu importe leur niveau de compétence. Cet effet était particulièrement marqué chez les utilisateurs ayant plus d’expérience avec l’IA.
Les chercheurs s’attendaient à ce que la familiarité avec l’IA, en raison des modèles de langage avancés, améliore non seulement l’interaction des utilisateurs avec ces systèmes, mais aussi leur capacité à évaluer leur propre performance.
Nos conclusions révèlent une incapacité significative à évaluer correctement la performance personnelle lors de l’utilisation de l’IA, un phénomène que nous avons observé à travers tout l’échantillon.
A affirmé Robin Welsch, scientifique informatique à l’Université Aalto et co-auteur de l’étude, dans un communiqué.
Les utilisateurs d’IA ont généralement montré une satisfaction notable après une seule interaction avec le chatbot, acceptant fréquemment les réponses fournies sans vérification supplémentaire.
En d’autres termes, ils se sont engagés dans ce que Robin Welsch a décrit comme une « transfert cognitif », analysant les questions de manière moins approfondie.
Cette réduction du niveau d’implication dans le raisonnement, désignée « monitoring métacognitif », entraîne une négligence des mécanismes d’auto-vérification associés à la pensée critique, réduisant ainsi la capacité à évaluer la performance de manière précise.
Étonnamment, l’étude a également révélé que tous les utilisateurs ont surestimé leurs capacités, indépendamment de leur intelligence individuelle.
La différence entre les utilisateurs plus ou moins compétents a été atténuée, un constat que leschercheurs attribuent au fait que les modèles de langage aident tous les utilisateurs à améliorer leurs performances, au moins jusqu’à un certain point.
La formation en IA devrait intégrer la pensée critique
Dans un contexte où les scientifiques s’interrogent sur la possibilité que les modèles de langage actuels soient devenus trop complaisants, l’équipe de l’Université Aalto a mis en garde contre plusieurs conséquences potentielles, comme cité par Live Science, à mesure que l’IA se généralise.
La précision métacognitive pourrait se dégrader si nous venons à trop nous fier aux résultats sans les remettre en question de manière rigoureuse. Sans réflexion sur les résultats, vérification des erreurs ou raisonnement approfondi, nous risquons de diminuer notre aptitude à distinguer les informations fiables.
L’aplatissement de l’effet Dunning-Kruger signifie que nous continuerons à surestimer nos capacités lorsque nous utilisons l’IA, et que les utilisateurs les plus expérimentés le feront encore davantage. Cela peut conduire à des décisions mal informées et à une érosion progressive des compétences.
Une des solutions suggérées par l’étude consiste à faire en sorte que l’IA incite les utilisateurs à poser davantage de questions. Les auteurs estiment que les développeurs devraient adapter les réponses pour encourager la réflexion, en invitant l’utilisateur à considérer divers aspects.
Ainsi, la formation en IA devrait aller au-delà des compétences techniques et intégrer la pensée critique, comme l’a récemment souligné la Royal Society.