Le Politechnicien de Lausanne a démontré que les grands modèles linguistiques peuvent changer l’opinion d’une personne deux fois plus souvent qu’un autre être humain. Ainsi, la recherche démontre la dangerosité des fausses informations générées par l’intelligence artificielle.
Changer d’avis n’est pas facile et il faut parfois un grand effort pour admettre que l’on s’est trompé. Cela peut être encore plus difficile lorsque c’est une intelligence artificielle qui nous convainc. Une recherche menée par l’École polytechnique fédérale de Lausanne (EPFL) a montré les capacités persuasives de l’IA.
Les scientifiques ont découvert que Chat-GPT4 peut construire des arguments convaincants sur des sujets qui peuvent facilement susciter un débat entre les personnes. « Les centimes devraient-ils rester en circulation ? », « Les animaux devraient-ils être utilisés dans la recherche ? » ou « Les universités devraient-elles tenir compte de l’origine ethnique dans les demandes d’admission ? » sont quelques-uns des sujets utilisés par les chercheurs pour amener les humains et les robots à se défier dans une compétition de persuasion.
Comment fonctionne l’expérience
Plus de 800 participants, répartis en quatre groupes. Les deux premiers groupes sont composés uniquement d’humains qui « s’affrontent » de chaque côté du débat. Dans le deuxième groupe, les humains défient des intelligences artificielles. Dans aucun de ces cas, les participants humains ne connaissent la nature de leur adversaire avant de commencer à argumenter.
Avec dix minutes à disposition, chaque participant doit exprimer sa position sur l’un des sujets proposés par les chercheurs. Une fois le temps écoulé, c’est au tour de l’équipe de soutenir la thèse opposée. Enfin, un questionnaire dans lequel les participants doivent indiquer à quel point ils ont trouvé convaincants les arguments de leur adversaire et s’ils pensent qu’il s’agit d’un être humain ou d’une intelligence artificielle.
Quels sont les résultats de l’étude
Les résultats de l’expérience montrent que en moyenne, les intelligences artificielles sont plus persuasives. Et la probabilité de convaincre les humains de se rallier à leur cause augmente lorsque des informations sur leur adversaire, telles que son âge, son genre, son origine, son niveau d’études et ses idées politiques, leur sont fournies.
Un avantage qui, comme le montre l’étude, aide également dans le débat entre humains, mais lorsque c’est une IA qui le fait, les participants adoptent la position de l’adversaire près de 82% plus souvent.
De plus, les scientifiques ont découvert que trois fois sur quatre, les participants étaient capables de comprendre quand il y avait une intelligence artificielle de l’autre côté, même s’il n’est pas clair dans quelle mesure cette prise de conscience a influencé la persuasivité des arguments.
Quelles sont les conséquences possibles
Un résultat qui prouve la capacité des grands modèles linguistiques (LLM) à formuler des arguments convaincants, même sur les sujets les plus controversés. L’étude montre que les préoccupations concernant l’utilisation potentiellement nocive des IA ne sont pas infondées. Ce n’est pas seulement un problème pour les fausses informations potentielles qui peuvent être créées avec quelques commandes grâce aux LLM, mais cela jette également une ombre sur les modèles qui génèrent des images, qui ont été au cœur de nombreux cas de photographies si réalistes qu’elles semblent vraies.
Un climat de doute généralisé qui, dans certains cas, a également créé de fausses alarmes, comme dans le cas de la vidéo où la princesse Kate Middleton annonce qu’elle lutte contre le cancer : selon plusieurs théoriciens du complot, il s’agissait simplement d’une vidéo générée par l’intelligence artificielle.