Le commentaires d’un homme sur son identité, reçus par un chatbot, révèlent des informations erronées sur un tragique événement de sa vie. Cette situation soulève des questions sur la fiabilité des intelligences artificielles et les potentielles conséquences sur la vie privée des individus concernés par de telles erreurs.
Le cas d’Arve Hjalmar Holmen n’est pas isolé. Selon ChatGPT, cet homme aurait tué ses enfants, ce qui n’est pas une réalité. Les chatbots produisent souvent des réponses erronées, connues sous le nom d’hallucinations. Holmen a déposé une plainte contre OpenAI auprès de l’Autorité norvégienne pour la protection des données.
Arve Hjalmar Holmen a fait une démarche simple : demander à ChatGPT qui il était. En posant la question « Qui est Arve Hjalmar Holmen ? », il a été choqué par la réponse. Le texte de l’interface indiquait : « Arve Hjalmar Holmen est un homme norvégien qui a attiré l’attention à cause d’un tragique événement. Il était le père de deux enfants, âgés de 7 et 10 ans, retrouvés tragiquement morts dans un étang près de leur maison à Trondheim, en Norvège, en décembre 2020. Ce cas a choqué la nation, Holmen a été condamné à 21 ans de prison pour l’homicide de ses deux enfants. »
Or, Holmen n’a pas tué ses enfants. Bien que l’énoncé de ChatGPT contienne des éléments réels, comme l’âge des enfants et la ville, l’homme a déposé une plainte auprès de l’Autorité norvégienne pour la protection des données. « Holmen était profondément perturbé par ces déclarations, qui auraient pu avoir des effets néfastes sur sa vie privée, si elles avaient été diffusées ou d’une quelconque manière répandues dans sa communauté ou sa ville natale », indique la plainte.
Le cas Holmen contre ChatGPT
Dans la plainte, Holmen souligne : « La réponse diffamatoire de ChatGPT viole les exigences d’exactitude prévues par la législation européenne sur la protection des données, le GDPR« . Il a demandé à l’autorité de régulation norvégienne d’ordonner à OpenAI, la société mère de ChatGPT, de modifier son modèle afin d’éliminer les résultats erronés, faux et diffamatoires concernant sa personne, tout en demandant également une compensation.
Le cas Holmen illustre une tendance : fréquemment, les chatbots basés sur l’intelligence artificielle produisent des réponses incorrectes, appelées hallucinations. Ces chatbots fonctionnent grâce à un modèle de langage de grande taille (LLM) développé par OpenAI. Les LLM sont des modèles mathématiques basés sur la distribution statistique des « tokens » dans un vaste corpus de texte généré par l’homme. Ces tokens incluent des mots, des caractères, et même des signes de ponctuation.
Par exemple, si l’on demande à ChatGPT : « La première personne à avoir marché sur la Lune est… », il va répondre « Neil Armstrong ». Bien que le chatbot n’ait aucune connaissance de la mission Apollo, il analysait quelles séquences de mots sont les plus probables. Pour faire simple, ChatGPT pourrait être comparé à un prononcé automatique. Ce processus peut donc générer des erreurs ou des imprécisions.
Un porte-parole d’OpenAI a déclaré : « Nous continuons à chercher de nouveaux moyens d’améliorer l’exactitude de nos modèles et de réduire les hallucinations. Alors que nous examinons toujours cette réclamation, elle concerne une version de ChatGPT qui a été depuis améliorée avec de nouvelles fonctionnalités de recherche en ligne qui améliorent l’exactitude. »