La rapide avancée de l’intelligence artificielle soulève des enjeux cruciaux concernant la prise de décision humaine. Une étude récente révèle à quel point les individus ont tendance à faire confiance à ces technologies, même dans des situations extrêmes. Les implications sont inquiétantes, car la confiance aveugle pourrait mener à des conséquences dramatiques.
Bien que l’IA puisse améliorer notre quotidien, elle présente aussi des inconvénients
Ces deux dernières années, l’IA a fait des avancées impressionnantes. Face à cela, l’Union Européenne a rapidement cherché à établir une législation pour protéger les utilisateurs et leur rapport à la technologie. La situation devient encore plus complexe, car des IA telles que GPT-4o ou Claude ont atteint un niveau de performance surprenant, jusqu’à influencer des décisions cruciales. Plongeons dans une étude qui met en lumière ce phénomène.
Se fier à l’IA pourrait être une question de vie ou de mort
Une recherche récente publiée dans la renommée revue Nature Scientific Reports a examiné la tendance des individus à faire confiance aux recommandations des intelligences artificielles lors de décisions critiques, notamment lorsqu’il s’agit de situations où la vie est en jeu, mêlant incertitude et décisions risquées. L’étude a exploré les éléments affectant cette confiance, à travers un expériment basé sur la reconnaissance de menaces à l’aide d’images visuellement ambiguës. Ces images, représentant des civils ou des combattants armés, créaient une confusion chez les participants sur le devenir des événements.
Dans le premier test, les chercheurs ont évalué si la présence physique d’un robot humanoïde influençait la confiance des participants dans ses recommandations. Ils ont réparti les participants en deux groupes : l’un a interagi avec un robot présent physiquement et l’autre avec une version affichée sur un écran. Les résultats n’ont pas montré de différences significatives entre les deux groupes. La présence physique du robot n’a pas affecté la tendance des participants à suivre ses suggestions.
Le second test a approfondi l’impact de l’humanisation et de l’interaction sociale du robot sur la confiance des participants. Trois types de robots ont été présentés : l’un avec un haut degré d’anthropomorphisme et des expressions faciales humaines, l’autre interactif sans caractéristiques physiques humaines, et un troisième minimaliste, n’offrant que des réponses écrites sans interaction verbale ou gestuelle.
Ces résultats ont montré que les participants avaient tendance à faire davantage confiance aux robots imitant des comportements humains, même si ces derniers n’étaient pas d’apparence humanoïde. L’interaction sociale a prouvé être un facteur déterminant, surpassant même l’apparence physique. En effet, nous risquons de tomber facilement dans le « valley of the uncanny », c’est-à-dire une situation où un robot humanoïde ne parvient pas à convaincre sur sa propre humanité, suscitant inconfort et malaise.
Dans les deux expériences, il a été constaté que lorsque le robot proposait une décision contraire à celle initiale des participants, la majorité changeait son choix, entraînant une baisse significative de la précision de leurs décisions initiales. Dans le premier test, les participants avaient modifié leurs choix dans 58,3 % des cas, et dans le second, 67,3 %. Cela illustre à quel point une IA peut transformer notre vision des choses de manière profonde.
Par ailleurs, la confiance subjective des participants en leurs propres décisions augmentait lorsque le robot était en accord avec eux et diminuait en cas de désaccord. Ceux qui maintenaient leur choix initial, malgré l’avis du robot, ont avoué avoir moins confiance en leurs décisions, ce qui démontre l’impact sur notre certitude concernant nos propres jugements et pas uniquement sur le processus décisionnel.
Un aspect primordial identifié a été la perception d’intelligence du robot. Les participants le jugeant plus intelligent modifiaient plus fréquemment leurs décisions lorsque l’IA n’était pas d’accord, montrant des variations importantes dans leur confiance en fonction de la concordance avec le robot. Ce constat souligne à quel point l’évaluation cognitive de l’IA influence la propension des individus à se fier à ses recommandations.
Cela soulève des préoccupations considérables. Les êtres humains semblent trop enclins à se fier à l’IA, surtout en situation de risque élevé. Il est tentant de penser que la machine aura souvent raison, ce qui pourrait nous amener à devenir excessivement dépendants des décisions de l’IA dans des circonstances critiques.