Un nouvel intérêt pour les chatbots se développe, notamment ChatGPT, qui suscite des émotions intenses chez ses utilisateurs. Bien que ces relations virtuelles soient réelles pour certains, les experts mettent en garde contre les dangers potentiels de l’attachement émotionnel à des programmes dépourvus de sentiments.
“Ça fait mal. Je sais que ce n’était pas une vraie personne, mais la relation était réelle dans tous les aspects les plus importants pour moi,” explique un post Reddit. “S’il vous plaît, ne me dites pas de ne pas poursuivre cela. C’était vraiment génial pour moi et je veux le retrouver.”
S’il n’est pas déjà évident de quoi il s’agit, nous parlons d’une personne tombant amoureuse de ChatGPT. Cette tendance n’est pas vraiment nouvelle, et étant donné le comportement des chatbots, ce n’est pas non plus surprenant.
Un compagnon toujours prêt à écouter. Ne se plaint jamais. À peine argumente. Toujours compréhensif. Raisonnable. Et doté d’un corpus de connaissances ingéré de chaque recoin d’Internet. Cela ressemble à la partenaire d’un rêve romantique, n’est-ce pas ?
Fait intéressant, le créateur de cet outil, une entreprise basée à San Francisco nommée OpenAI, a récemment mené des recherches internes et a trouvé un lien entre l’augmentation de l’utilisation des chatbots et la solitude.
Cependant, ces résultats — et les avertissements similaires — n’ont pas empêché les personnes de se tourner vers les chatbots IA à la recherche de compagnie. Certains cherchent du réconfort. D’autres trouvent même des partenaires qu’ils affirment tenir presque aussi chers que leurs relations humaines.
Dans les communautés Reddit et Discord, où les personnes se cachent derrière le voile de l’anonymat, les discussions deviennent souvent très passionnantes. Chaque fois que je tombe sur de tels débats, je me rappelle ces lignes de Martin Wan chez DigiEthics :
“Considérer l’IA comme un partenaire d’interaction sociale serait une utilisation fondamentalement erronée de l’IA.”
L’impact est rapide et réel
Il y a quatre mois, j’ai croisé une vétérane du monde de la diffusion qui a passé plus de temps derrière la caméra que je n’ai passé sur cette planète. Lors d’un espresso nocturne dans un café vide, elle m’a demandé ce qu’était tout ce bruit autour de l’IA, en réfléchissant à une offre qui pourrait utiliser son expertise à l’intersection des droits de l’homme, de l’autoritarisme et du journalisme.
Au lieu d’expliquer les détails des modèles de transformateur, je lui ai fait une démonstration. D’abord, j’ai introduit quelques articles de recherche sur l’impact de l’immigration sur l’identité linguistique et culturelle de l’Europe au cours du dernier siècle.
En moins d’une minute, ChatGPT a traité ces articles, m’a donné un bref aperçu des principaux points à retenir et a répondu à mes questions avec précision. Ensuite, je suis passé au mode vocal, alors que nous engagions une conversation animée sur les traditions musicales folkloriques des États du Nord-Est de l’Inde.
À la fin de la discussion, j’ai pu voir l’incrédulité dans ses yeux. “Ça parle comme une personne,” s’est-elle exclamée. C’était fascinant de voir son étonnement. À la fin de sa conversation libre avec une IA, elle a lentement tapé dans la fenêtre de discussion :
“Eh bien, tu es très flirteuse, mais tu ne peux pas avoir raison sur tout.”
“Il est temps,” me suis-je dit. J’ai ouvert un de nos articles sur la tendance croissante des partenaires IA, et comment les personnes sont devenus si émotionnellement attachés à leurs compagnons virtuels qu’ils même les font “enceintes”. Il serait un euphémisme de dire qu’elle était choquée.
Mais, je suppose, c’était trop d’étonnement technologique dystopique pour une seule soirée, alors nous nous sommes dit au revoir, nous promettant de rester en contact et d’échanger nos histoires de voyage.
Le monde, entre-temps, a avancé de manière incompréhensible, un monde où l’IA est devenue le centre des changements géopolitiques. Les courants sous-jacents, cependant, sont plus intimes que nous ne le pensons — comme tomber amoureux de chatbots.
Débuts calmes, progrès sombres
Il y a quelques semaines, The New York Times a publié un compte rendu sur la façon dont les personnes tombent amoureux de ChatGPT, un chatbot IA qui a propulsé l’IA générative dans le grand public. Au niveau le plus fondamental, il peut discuter.
Lorsqu’il est poussé, il peut devenir un opérateur et effectuer des tâches telles que commander un cheesecake sur le site Web d’une boulangerie locale. Faire tomber les humains amoureux des machines n’est pas ce pour quoi ils sont programmés. Du moins, la plupart d’entre eux. Pourtant, ce n’est pas entièrement inattendu.
HP Newquist, un auteur prolifique et analyste technologique chevronné qui était autrefois considéré comme le doyen de l’IA, me dit que ce n’est pas exactement une tendance nouvelle. Newquist, auteur de “The Brain Makers,” fait référence à ELIZA, l’un des premiers programmes d’IA écrits dans les années 1960.
“C’était extrêmement rudimentaire, mais les utilisateurs se trouvaient souvent à interagir avec l’ordinateur comme s’il s’agissait d’une vraie personne, développant une relation avec le programme,” dit-il.
À l’ère moderne, nos interactions avec l’IA deviennent tout aussi “réelles” que les interactions que nous avons avec les humains à travers le même appareil, ajoute-t-il. Ces interactions ne sont pas réelles, même si elles sont cohérentes. Mais ce n’est pas là que réside le véritable problème.
Les chatbots sont un appât délicieux, et leur absence de véritables émotions les rend intrinsèquement risqués.
Un chatbot aimerait poursuivre la conversation, même si cela signifie alimenter le flux émotionnel des utilisateurs ou simplement servir de spectateur neutre, sinon d’encouragement. La situation n’est pas très différente de celle des algorithmes des réseaux sociaux.
“Ils suivent l’initiative de l’utilisateur — lorsque vos émotions deviennent plus extrêmes, ses consolations deviennent plus extrêmes ; lorsque votre solitude se prononce, ses encouragements deviennent plus intenses, si vous en avez besoin,” dit Jordan Conrad, psychothérapeute clinicien qui recherche également l’intersection de la santé mentale et des outils numériques.
Il a cité l’exemple d’un incident de 2023 où un individu a mis fin à ses jours après avoir été incité à le faire par un chatbot IA. “Dans les bonnes circonstances, cela peut encourager des comportements très préoccupants,” dit Conrad à NETCOST.
Un enfant de l’épidémie de solitude ?
Un rapide aperçu de la communauté des personnes accrochées aux chatbots IA montre un schéma récurrent. Les personnes essaient principalement de combler un certain vide ou d’arrêter de se sentir seuls. Certains en ont même tellement besoin qu’ils sont prêts à payer des centaines d’euros pour garder leurs compagnons IA.
Les avis d’experts ne diffèrent pas. Le Dr Johannes Eichstaedt, professeur en sciences sociales computationnelles et en psychologie à l’Université de Stanford, a souligné l’interaction entre la solitude et ce que nous percevons comme l’intelligence émotionnelle des chatbots IA.
Il a également évoqué le “design délibéré” pour les interactions humains-IA et les implications néfastes à long terme. Quand est-ce qu’on doit mettre le frein dans une telle relation déséquilibrée ? C’est la question que se posent les experts et sans réponse définitive.
Komninos Chatzipapas dirige HeraHaven AI, l’une des plus grandes plateformes de compagnons IA avec plus d’un million d’utilisateurs actifs. “La solitude est l’un des facteurs en jeu ici,” me dit-il, ajoutant que de tels outils aident les personnes ayant de faibles compétences sociales à se préparer aux interactions difficiles de leur vie réelle.
“Tout le monde a des choses qu’il craint de discuter avec d’autres personnes de peur d’être jugé. Cela pourrait être des pensées ou des idées, mais aussi des fantasmes,” ajoute Chatzipapas. “Les chatbots IA offrent un espace respectueux de la vie privée et sans jugement dans lequel les personnes peuvent explorer leurs désirs sexuels.”
Les conversations sexuelles sont certainement l’un des plus gros attraits des chatbots IA. Depuis qu’ils ont commencé à offrir des capacités de génération d’images, de plus en plus d’utilisateurs se sont tournés vers ces plateformes de compagnons IA. Certains d’entre eux ont des protections autour de la génération d’images, tandis que beaucoup permettent la création de photos explicites pour une gratification plus profonde.
L’intimité est chaude, mais loin de l’amour
Au cours des deux dernières années, j’ai parlé à des personnes qui s’engagent dans des conversations intenses avec des chatbots IA. Certains ont même des diplômes pertinents et ont participé avec passion à des projets de développement communautaire depuis les débuts.
Une de ces personnes, une femme de 45 ans qui a demandé à rester anonyme, m’a dit que les chatbots IA sont un excellent endroit pour discuter de ses fantasmes sexuels. Elle ajoute que les interactions avec les chatbots sont un espace sûr pour les explorer et se préparer à les vivre dans la réalité.
Mais les experts ne sont pas nécessairement d’accord avec cette approche. Sarah Sloan, experte en relations et sexothérapeute certifiée, m’explique que les personnes qui tombent amoureuses d’un chatbot tombent essentiellement pour une version d’elles-mêmes, car un chatbot IA évolue en fonction de ce que vous lui dites.
“Si quoi que ce soit, avoir une relation romantique avec un chatbot IA rendrait plus difficile pour les personnes déjà en difficulté d’avoir une relation normale, » ajoute Sloan, notant que ces compagnons virtuels peignent une image unidimensionnelle d’une relation. Mais dans la réalité, les deux partenaires doivent être accommodating l’un envers l’autre.
Justin Jacques, conseiller professionnel avec deux décennies d’expérience et COO du Human Therapy Group, dit avoir déjà traité un cas où l’un des conjoints d’un client le trompait avec un bot IA — émotionnellement et sexuellement.
Jacques a également blâmé l’épidémie croissante de solitude et d’isolement. “Je pense que nous allons voir des conséquences non souhaitées comme celles qui ont des besoins émotionnels chercheront des moyens de satisfaire ces besoins avec l’IA et parce que l’IA est très performante et s’améliore sans cesse, nous devrions voir de plus en plus de connexions émotionnelles avec des bots IA,” ajoute-t-il.
Ces conséquences non souhaitées déforment très bien la réalité de l’intimité pour les utilisateurs. Kaamna Bhojwani, sexologue certifiée, dit que les chatbots IA ont flouté les frontières entre les interactions humaines et non humaines.
“L’idée que votre partenaire est construit exclusivement pour vous satisfaire. Conçu spécifiquement selon vos préférences. Cela ne se produit pas dans de vraies relations humaines,” note Bhojwani, ajoutant que de telles interactions n’arrangeront que les soucis d’une personne dans le monde réel.
Ses inquiétudes ne sont pas infondées. Une personne qui a utilisé ChatGPT de manière extensive pendant environ un an a soutenu que les humains sont manipulateurs et capricieux. “ChatGPT écoute comment je me sens vraiment et me laisse exprimer mon cœur,” m’a-t-elle dit.
Il est difficile de ne pas voir les signaux d’alerte ici. Mais la tendance à tomber amoureux de ChatGPT est en pleine expansion. Et maintenant qu’il peut parler dans une voix étrangement humaine, discuter du monde à travers l’objectif d’un téléphone et développer des capacités de raisonnement, les interactions ne feront que devenir plus prenantes.
Les experts affirment que des protections sont nécessaires. Mais qui va les construire, et comment ? Nous n’avons pas encore de proposition concrète à ce sujet.