Un professeur de Stanford a connu un embarras après avoir soumis un affidavit soutenant une loi sur les deepfakes et l’IA en politique. Des affirmations d’inexactitudes, notamment des citations d’études non existantes, soulèvent des questions sur la fiabilité des modèles de langage. L’affaire pourrait avoir des répercussions juridiques sérieuses.
Oops : Les modèles de langage ont un long chemin à parcourir avant de prouver qu’ils sont dignes de confiance et fiables. Pour l’instant, ils sont utiles pour commencer des recherches, mais seuls les imprudents oseraient leur faire suffisamment confiance pour rédiger un document légal. Un professeur spécialisé dans ce domaine devrait le savoir mieux.
Un professeur de Stanford s’est retrouvé dans une situation délicate après avoir soumis un affidavit au tribunal en faveur d’une loi controversée du Minnesota visant à limiter l’utilisation des deepfakes et de l’IA pour influencer les résultats des élections. L’amendement proposé à la législation existante stipule que les candidats reconnus coupables d’avoir utilisé des deepfakes durant leur campagne électorale doivent se retirer de la course et encourent des amendes ainsi qu’une peine d’emprisonnement pouvant atteindre cinq ans et 10 000 €, selon le nombre de condamnations antérieures.
La représentante de l’État du Minnesota, Mary Franson, et le YouTuber Christopher Kohls ont contesté la loi, affirmant qu’elle viole le Premier Amendement. Lors des procédures préliminaires, le procureur général du Minnesota, Keith Ellison, a demandé au directeur fondateur du Social Media Lab de Stanford, le professeur Jeff Hancock, de fournir un affidavit déclarant son support à la loi (voir ci-dessous).
Le Minnesota Reformer note que Hancock a élaboré un argument bien formulé sur la nécessité de la législation. Il cite plusieurs sources pour justifier sa position, dont une étude intitulée « L’influence des vidéos deepfake sur les attitudes et comportements politiques » publiée dans le Journal of Information Technology & Politics. Il a également fait référence à un autre article académique intitulé « Deepfakes et l’illusion d’authenticité : processus cognitifs derrière l’acceptation de la désinformation« . Le problème est qu’aucune de ces études n’existe dans le journal mentionné ni dans d’autres ressources académiques.
Les plaignants ont déposé un mémorandum suggérant que les citations pouvaient être générées par une IA. Les attributions douteuses remettent en question la validité de la déclaration, même si elles ne proviennent pas d’un LLM, et le juge devrait donc l’écarter.
« La citation présente les caractéristiques d’une ‘hallucination’ produite par l’intelligence artificielle, suggérant qu’au moins la citation a été générée par un modèle de langage comme ChatGPT, » indique le mémorandum. « Les plaignants ne savent pas comment cette hallucination a émergé dans la déclaration de Hancock, mais cela remet en question l’ensemble du document. »
Si les citations sont générées par une IA, il est très probable qu’une partie, voire la totalité de l’affidavit, le soit également. Lors d’expériences avec ChatGPT, Netcost-security.fr a constaté que le LLM fabrique des citations qui n’existent pas dans une apparente tentative de donner de la crédibilité à un récit. Lorsque confronté, le chatbot admettra avoir inventé le hardware et le révisera avec encore plus de contenus douteux (voir ci-dessus).
On peut imaginer que Hancock, très occupé, ait rédigé un projet de déclaration et l’ait transmis à un assistant pour qu’il soit corrigé, qui l’a ensuite passé par un LLM pour le peaufiner, et que le modèle y ait ajouté des références sans instructions. Cependant, cela n’excuse pas le document de la bonne test et du jugement, ce qui représente le principal problème avec les LLMs aujourd’hui.
L’ironie qu’un expert autoproclamé ait soumis un document contenant de la désinformation générée par l’IA à un organe légal en support d’une loi qui interdit justement cette information n’échappe à personne. Ellison et Hancock n’ont pas commenté la situation et souhaitent probablement voir ce faux pas embarrassant disparaître.
La question plus délicate est de savoir si le tribunal considérera cela comme parjure puisque Hancock a signé sous la déclaration : « Je déclare sous peine de parjure que tout ce que j’ai déclaré dans ce document est vrai et correct. » Si les personnes ne sont pas tenus responsables de l’utilisation abusive de l’IA, comment cela peut-il s’améliorer ?