Avec les progrès de l’intelligence artificielle et de la technologie vocale, il est désormais possible de capitaliser même sur la mort. Pour l’instant, il n’y a pas de contraintes légales, mais selon les experts en éthique, les « deadbot » pourraient causer des dommages psychologiques et « persécuter » les utilisateurs.
« Je savais que c’était un système d’intelligence artificielle mais, une fois que j’ai commencé à discuter, j’ai oublié. Ça ressemblait à Camerum ». Christi Angel a 47 ans, vit à New York et a perdu son partenaire. Elle a donc décidé de parler avec la version chatbot de Camerum. Une intelligence artificielle (IA) formée avec des photos, des enregistrements audio et vidéo du défunt. « Cela semblait tellement réel« .
Christi n’est pas la seule, de plus en plus de personnes se tournent vers les chatbots pour surmonter un deuil. La possibilité de communiquer avec les défunts a été pendant des siècles le rêve interdit entre planchettes ouija et séances de spiritisme. Avec les progrès de l’intelligence artificielle et de la technologie vocale, il est désormais possible de capitaliser même sur la mort. Pour l’instant, il n’y a pas de contraintes légales, mais selon les experts en éthique, les « deadbot » pourraient causer des dommages psychologiques et « persécuter » les utilisateurs.
L’expérience d’Angel a été racontée dans le documentaire Eternal You. Hans Block et Moritz Riesewieck, les réalisateurs, ont expliqué vouloir souligner les problèmes de la résurrection digitale. « Ces personnes vulnérables, très rapidement oublient qu’elles parlent à une machine à apprentissage automatique et c’est un gros problème dans la régulation de ce type de systèmes », déclare Block.
Comment fonctionne Project Décembre
La plateforme utilisée par Angel s’appelle Project Décembre et est gérée par le joueur Jason Rohrer. « Tout a commencé comme un projet artistique pour créer des personnages chatbots », explique Rohrer, mais a ensuite été adopté par les premiers utilisateurs pour recréer des partenaires, des amis et des membres de la famille décédés. La publicité sur le site promeut désormais Project Décembre avec l’accroche « simule les morts ».
Les clients pour la création de versions numériques des êtres chers décédés doivent remplir des fiches sur la personne décédée, comprenant des surnoms, des traits de caractère et la cause du passage, qui sont ensuite intégrés dans un modèle d’intelligence artificielle.
Qu’est-ce que les versonas
Le documentaire montre également d’autres formes de « grieftech« , c’est ainsi que la technologie cherchant à capitaliser sur la mort est appelée. En plus des chatbots, il y a aussi les versonas, un profil posthume de soi-même qui permet à quiconque de continuer à exister sous forme de chatbot. Il suffit de se connecter à la plateforme YOV, « You, Only Virtual ». Tout comme pour Project Décembre, il est possible de créer des copies de personnes décédées à partir des données sur YOV.
Justin Harrison, fondateur de YOV, a créé une version de sa mère, Melodi, avant qu’elle ne décède. Harrison n’est pas préoccupé par les conséquences que pourraient entraîner les morts numériques, selon lui, la plateforme répond simplement à un besoin humain intemporel.
En Chine, les pompes funèbres utilisent déjà des photos, des vidéos et des enregistrements vocaux des défunts pour créer des versonas qui prononcent quelques mots d’adieu lors des funérailles.
Parler aux morts est une bonne idée ?
« Les êtres humains ont été notoirement cohérents et universels dans leur désir de rester en contact avec leurs proches disparus. Nous le faisons juste avec les outils que nous offre 2024″, explique Sherry Turkle, professeure au Massachusetts Institute of Technology aux États-Unis, dans le Guardian. Cependant, l’IA pourrait rendre impossible de « lâcher prise sur nos êtres chers disparus ».
Les chercheurs de l’Université de Cambridge demandent donc une nouvelle réglementation. Selon Katarzyna Nowaczyk-Basiska, co-auteure d’une récente étude au Leverhulme Centre for the Future of Intelligence (LCFI) de l’Université de Cambridge, il est nécessaire d’aborder à la fois les possibles dommages psychologiques, par exemple chez les individus plus vulnérables comme les enfants, et de protéger les droits des personnes en limitant l’utilisation indiscriminée des données.
« Nous sommes confrontés à une énorme expérience techno-culturelle. Nous avons besoin de mesures de protection beaucoup plus responsables car beaucoup est en jeu : la manière dont nous comprenons et vivons la mort et la manière dont nous nous soucions des morts« .