Nous avons tous vécu cela : des pouces en l’air, fixant un mot suggéré qui exprimait parfaitement ce que nous voulions dire. Alors, nous appuyons dessus, bien sûr. Cependant, une nouvelle étude indique que ces petites presses pourraient avoir plus d’impact que quelques secondes gagnées.
Une recherche menée par Cornell Tech, publiée cette semaine dans Science Advances, a révélé que les suggestions de remplissage automatique générées par l’IA ne modifient pas seulement notre façon d’écrire, mais influencent aussi notre façon de penser. Et vous ne le remarquerez même pas.
Qu’a réellement trouvé la recherche ?
Les chercheurs ont réalisé deux expériences à grande échelle avec plus de 2 500 participants, leur demandant d’écrire de courts essais sur des sujets sociaux délicats : peine de mort, fracturation, OGM, droits de vote pour les criminels.
Certains participants ont reçu des suggestions de remplissage automatique discrètement orientées dans une certaine direction, générées à l’aide d’un grand modèle de langage des familles GPT-3 et GPT-4. D’autres n’ont rien eu.
Le résultat ? Les personnes qui ont écrit avec l’IA biaisée se sont progressivement rapprochées des positions de cette dernière. Non pas parce qu’elles étaient convaincues par des arguments. Non pas parce qu’elles avaient lu quoi que ce soit de persuasif. Simplement parce que leur téléphone complétait leurs pensées.
Savoir le truc n’a pas non plus rompu le charme
Voici la partie qui doit vous faire poser votre téléphone un instant. Les chercheurs ont averti certains participants que l’IA avait un problème de biais — une sorte de « ne dites pas qu’on ne vous a pas prévenu ». Puis, ils ont essayé de débriefer d’autres après coup. Dans la plupart des études sur la désinformation, ces approches fonctionnent comme des vaccins mentaux. Cette fois, aucune des deux n’a eu d’effet.
« Leurs attitudes sur les questions ont néanmoins évolué, » a déclaré Mor Naaman, auteur principal, qui a également noté que le remplissage automatique a considérablement augmenté en portée — Gmail propose désormais d’écrire des e-mails entiers en votre nom.
La prochaine fois que votre téléphone vous suggère de « soutenir totalement » quelque chose, prenez peut-être un moment pour réfléchir à ce petit mot bleu. Votre opinion pourrait ne pas être qu’à une pression d’être celle de quelqu’un d’autre.