Pendant des années, on travaille pour créer des « deadbot ». En 2021, Joshua Barbeau avait utilisé GPT-3 pour créer un chatbot capable de reproduire la voix de sa petite amie décédée. La même année, le site de généalogie MyHeritage a introduit Deep Nostalgia, une fonctionnalité permettant de créer des vidéos animées de ses proches à l’aide d’un album de photos.
Autrefois, on buvait le sang des boucs, maintenant on télécharge un chatbot. Depuis des siècles, nous essayons de communiquer avec les morts et maintenant l’
De manière ancestrale, il y a toujours eu la crainte de jouer avec la mort, et avec la résurrection numérique, on semble franchir une frontière dangereuse. Tomasz Hollanek et Nowaczyk-Basińska, chercheurs et experts en éthique à l’Université de Cambridge, ont soulevé de nouvelles questions sur l’au-delà numérique. « Les utilisateurs pourraient utiliser des chatbots pour faire revivre leur grand-mère« , expliquent-ils dans l’étude. De plus, les parents atteints de maladies terminales pourraient créer des versions numériques à laisser à leurs enfants. « Les progrès rapides de l’intelligence artificielle générative montrent que presque n’importe qui ayant accès à Internet et un peu de connaissances de base peut faire revivre un être cher défunt », explique Basińska. « Ce domaine de l’intelligence artificielle est un champ de mines du point de vue éthique. Il est important de donner la priorité à la dignité du défunt et de garantir qu’elle ne soit pas blessée, par exemple par les motivations financières des services numériques de l’au-delà ».
Par exemple, que se passerait-il si notre grand-mère commençait à nous conseiller d’acheter cette marque de céréales ? Les entreprises pourraient utiliser des chatbots pour faire de la publicité, étant donné qu’il n’est pas encore clair comment les données nécessaires pour créer les chatbots sont stockées et utilisées. De plus, les morts virtuels pourraient également perturber le processus normal de deuil, créant un court-circuit cognitif. « Aucun service de recréation ne peut prouver que permettre aux enfants d’interagir avec les « deadbot » soit bénéfique ou du moins n’endommage pas ce groupe vulnérable », avertit l’étude. C’est pourquoi, selon les chercheurs, il est essentiel que les entreprises soient transparentes sur le fonctionnement des chatbots.
Les deadbot sont déjà une réalité
Depuis des années, on travaille pour créer des deadbot. En 2021, Joshua Barbeau avait utilisé GPT-3 pour créer un chatbot capable de reproduire la voix de sa petite amie décédée. La même année, le site de généalogie MyHeritage a introduit Deep Nostalgia, une fonctionnalité permettant de créer des vidéos animées de ses proches à l’aide d’un album de photos. « Les résultats peuvent être controversés, il est difficile de rester indifférent à cette technologie », avait commenté MyHeritage à l’époque. « Cette fonctionnalité vise à un usage nostalgique, c’est-à-dire à faire revivre les ancêtres bien-aimés. » En 2022, MyHeritage a lancé DeepStory, pour permettre aux utilisateurs de générer des « vidéos parlantes ».
En Chine, les pompes funèbres utilisent déjà des photos, des vidéos et des enregistrements vocaux des défunts pour créer des avatars qui prononcent quelques mots d’adieu pendant les funérailles. De plus, en janvier dernier, le chanteur taïwanais Bao Xiaobo a « ressuscité » grâce à l’IA sa fille de 22 ans, décédée deux ans auparavant, en montrant son clone numérique dans une vidéo publiée en ligne.
Les problèmes éthiques liés à la résurrection numérique
Plusieurs questions éthiques restent ouvertes. Par exemple : qui possède les données d’une personne après sa mort ? Quel est l’effet psychologique sur les proches ou les amis ? À quoi peut servir un deadbot ? Qui peut désactiver définitivement le bot ? « Les personnes pourraient développer des liens émotionnels forts avec ces simulations, ce qui les rendrait particulièrement vulnérables à la manipulation », a expliqué Tomasz Hollanek, chercheur à l’Université de Cambridge et expert en éthique et technologie. Parler aux versions numériques de nos proches pourrait également prolonger la douleur et créer un décalage avec la réalité.
« Des méthodes et même des rituels devraient être envisagés pour prendre une retraite digne des deadbot. Cela pourrait signifier une forme de funérailles numériques« . De plus, les restes numériques d’une personne devraient être traités comme « une entité ayant une valeur intrinsèque ».
Selon l’étude, des limites doivent être instaurées pour contenir toute dérive d’un phénomène controversé. « Il sera nécessaire d’assurer une transparence significative des services de recréation grâce à des clauses de non-responsabilité sur les risques et les capacités des deadbot, limiter l’accès aux services de recréation aux seuls utilisateurs adultes et suivre le principe du consentement mutuel tant des donateurs que des destinataires des données pour participer à des projets de recréation. »