Un incident préoccupant a révélé les failles de l’intelligence artificielle générative, illustré par une fausse accusation de meurtre à l’encontre d’un citoyen norvégien. Cette situation met en lumière les enjeux de la précision des données traitées par des entreprises comme OpenAI, soulevant des interrogations essentielles sur la conformité aux régulations en matière de protection des données.
WTF?! Même si l’IA générative devient de plus en plus répandue, ces systèmes restent sujets à des hallucinations. Conseiller aux personnes de mettre de la colle sur une pizza et de manger des pierres est une chose, mais que ChatGPT affirme faussement qu’un homme a passé 21 ans en prison pour avoir tué ses deux threads est beaucoup plus sérieux.
Le citoyen norvégien Arve Hjalmar Holmen a contacté l’Autorité norvégienne de protection des données après avoir voulu savoir ce que ChatGPT savait de lui.
Le chatbot a répondu avec son habituel ton confiant, affirmant à tort que Holmen avait tué deux de ses threads et tenté de tuer son troisième threads. Il a ajouté qu’il avait été condamné à 21 ans de prison pour ces crimes fictifs.
Bien que l’histoire ait été entièrement fabriquée, il y avait des éléments de la vie de Holmen que ChatGPT a révélés correctement, y compris le nombre et le sexe de ses enfants, leur âge approximatif et le nom de sa ville natale, rendant ainsi les fausses accusations de meurtre d’autant plus sinistres.
Holmen assure qu’il n’a jamais été accusé ni condamné pour aucun crime et qu’il est un citoyen conscient.
Holmen a contacté le groupe de défense des droits à la vie privée Noyb au sujet de cette hallucination. Ce dernier a mené des recherches pour s’assurer que ChatGPT ne confondait pas Holmen avec quelqu’un d’autre, éventuellement avec un nom similaire. Le groupe a également vérifié les archives des journaux, mais rien ne suggérait pourquoi le chatbot inventait cette histoire macabre.
Le modèle de ChatGPT a depuis été mis à jour, et il ne répète plus l’histoire lorsqu’on lui parle de Holmen. Cependant, Noyb, qui a déjà eu des conflits avec OpenAI par le passé concernant la diffusion d’informations erronées sur des personnes, a tout de même déposé une plainte auprès de l’Autorité norvégienne de protection des données, Datatilsynet.
Selon la plainte, OpenAI a violé les règles du RGPD stipulant que les entreprises traitant des données personnelles doivent garantir leur exactitude. Si les détails ne sont pas exacts, ils doivent être corrigés ou supprimés. Cependant, Noyb soutient que, puisque ChatGPT réintègre les données utilisateurs dans le système à des fins de formation, il n’est pas possible de s’assurer que les données incorrectes ont été entièrement supprimées de l’ensemble de données du LLM.
Noyb affirme également que ChatGPT ne respecte pas l’Article 15 du RGPD, ce qui signifie qu’il n’y a aucune garantie de pouvoir rappeler ou voir chaque version de données sur un individu qui a été introduite dans un ensemble de données. « Ce fait cause compréhensiblement toujours de l’inquiétude et de la peur au plaignant, [Holmen], » a écrit Noyb.
Noyb demande à Datatilsynet d’ordonner à OpenAI de supprimer les données diffamatoires concernant Holmen et d’ajuster son modèle pour éliminer les résultats inexacts concernant les individus, ce qui ne serait pas une tâche simple.
Pour l’instant, la méthode d’OpenAI pour se couvrir dans de telles situations se limite à un petit avertissement en bas de la page de ChatGPT qui indique : « ChatGPT peut faire des erreurs. Vérifiez les informations importantes, » comme savoir si quelqu’un est un double meurtrier.