En Chine, le marché des défunts numériques est un secteur bien établi. Zhang Zewei, fondateur de la startup SuperBrain, a déclaré : « Nous avons aidé plus de 600 familles et ‘ressuscité’ des milliers de personnes ».
Jusqu’à ce que la mort nous sépare, ou que l’intelligence artificielle nous réunisse. À l’ère des programmes d’intelligence artificielle génératif à bas prix, il devient possible de parler aux défunts ou de participer à ses propres funérailles. Cela se produit déjà en Chine, où autour des soi-disant « défunts numériques », des chatbots intelligents ayant l’apparence et la voix d’une personne décédée, un business s’est développé, apprécié par ceux qui font face à la difficulté de cette expérience universelle qu’est le deuil et critiqué par ceux qui voient les risques de cette application de l’IA pour la vie privée et la santé mentale des utilisateurs.
Comment créer (et combien cela coûte-t-il) un défunt numérique
« Pour seulement 52 yuans (6,75 euros), vous pouvez parler à la personne que vous avez perdue ». L’annonce sur la plateforme de commerce électronique chinoise Taobao se confond parmi des centaines d’offres de ce type apparues ces derniers mois sur le Web de la République populaire. De l’autre côté de l’écran, un couple qui vient de perdre un jeune enfant. Une femme dont le partenaire est décédé dans un accident de la route. Un jeune homme qui manque sa grand-mère.
Il suffit de quelques photographies, de quelques enregistrements audio clairs et de quelques vidéos pour capturer les expressions faciales de la personne que l’on souhaite « ressusciter ». Un modèle algorithmique alimenté par l’IA présente alors un avatar numérique à l’apparence du défunt. Un clone virtuel capable de répondre à des questions simples et de réconforter ceux qui s’adressent à lui, et dans les versions les plus avancées et les plus coûteuses, de simuler les modèles de dialogue de la personne qu’il représente et de conserver quelques souvenirs.
La méthode de base est celle des programmes d’apprentissage automatique de grands modèles linguistiques (les soi-disant grands modèles linguistiques, LLM) qui sont à la base des chatbots tels que ChatGPT, combinés à des fonctionnalités supplémentaires telles que le clonage vocal (sur lequel OpenAI travaille également) et la création d’un avatar en mouvement, avec des prix variant de 10 à 1 400 euros.
Celui qui propose ces services parle de « compagnon numérique », de « résurrection de l’IA » et d ‘ »immortalité virtuelle ». Rien de blasphématoire selon la tradition chinoise qui, bien qu’essentiellement athée, réserve une place de premier plan aux ancêtres et aux liens familiaux et trouve dans cette application technologique une dérive (plus vraiment science-fiction) de sa culture. Un usage similaire de l’IA en tant que support émotionnel avait déjà été vu avec Ernie Bot, la réponse de Pékin à ChatGPT, appréciée par les utilisateurs pour ses réponses empathiques et conciliantes.
Comment fonctionne le business des clones numériques
En Chine, l’expérimentation sur les défunts numériques est en cours depuis un certain temps et a atteint son apogée en janvier dernier lorsque le chanteur taïwanais Bao Xiaobo a « ressuscité » sa fille de 22 ans grâce à l’IA, décédée il y a deux ans, en montrant son clone numérique dans une vidéo publiée en ligne. Pour ce faire, Bao a utilisé l’application XEva de Xiaoice et a obtenu un doctorat en innovation de l’IA afin de « pouvoir encore entendre la voix » de sa fille. En mars, la société d’IA SenseTime a fait les gros titres pour avoir confié au clone numérique de son fondateur défunt, Tang Xiao’ou, le discours d’ouverture d’une conférence d’entreprise.
Même la société chinoise Glow propose des services de chatbot pour le travail de deuil avec la voix de la personne décédée. L’entreprise Fushouyuan, quant à elle, travaille sur un service permettant aux morts de se présenter sous la forme d’un avatar à leurs propres funérailles, tandis que l’entreprise taïwanaise Memomark permet de « ressusciter » ses animaux de compagnie décédés dans un metaverse dédié et de continuer à en prendre soin.
Les implications éthiques des défunts numériques, du consentement à la santé mentale
Malgré le fait que la plupart du public chinois ait favorablement accueilli cette application extrême (et parfois dystopique) de l’IA, il n’a pas manqué de critiques et de doutes sur les implications éthiques des défunts numériques. Le premier problème de cette technologie concerne le consentement, un sujet transversal à toutes les innovations qui produisent des deepfakes avec les images des autres. Parmi les défunts ressuscités par les utilisateurs chinois ces dernières semaines, il y a eu, par exemple, le chanteur et acteur Qiao Renliang, qui s’est suicidé en 2016 et est apparu dans une vidéo sur Douyin (version d’origine de TikTok) disant à ses fans qu’il « n’était jamais parti ».
Cette situation a suscité l’indignation de la famille de Qiao, qui a parlé d’une « blessure encore ouverte » et d’une « pratique de mauvais goût ». Il y a aussi le risque psychologique lié à la reprise du deuil. Comme spécifié dans les conditions d’utilisation de SuperBrain, se fier aux chatbots pour un support émotionnel n’indique pas obtenir un véritable support psychologique, et à quelques reprises, l’entreprise a dû fermer le compte de certains utilisateurs qui avaient passé trop d’heures à discuter avec leur clone numérique.
C’est précisément sur le risque de « dépendance » que se concentrent les préoccupations du gouvernement chinois, qui envisagerait déjà une proposition de loi pour limiter cette application de l’IA. Selon Zeng Yi, directeur général du Centre pour la gouvernance et l’éthique de l’IA de l’Académie chinoise des sciences, le fait d’entretenir des relations avec une entité numérique augmente le « risque d’accoutumance » avec un impact « négatif sur la psyché, ce qui constitue des dangers pour la société ».
Cependant, les experts chinois rassurent en affirmant que l’état actuel des défunts numériques est encore rudimentaire, quelque chose de conceptuellement plus proche de la « restauration photographique » et de « l’archivage » que de la création d’une entité avec des souvenirs et des émotions réalistes. Et il n’est pas passé inaperçu que, même une fois raffinée, la fin aigre-douce de cette application de l’IA ne sera pas différente de ce qui a déjà été vu dans l’épisode de Black Mirror « The Entire History of You », où après avoir vécu aux côtés du clone numérique de son compagnon défunt, la protagoniste renonce au double car il « n’est que l’écho » de son bien-aimé, sans « toute son histoire ».