Des cas récents de « psychose liée à l’intelligence artificielle » soulèvent des préoccupations quant aux effets de l’IA sur les individus vulnérables. Les experts soulignent l’importance de comprendre les risques potentiels, tout en insistant sur la nécessité d’une approche responsable de l’IA dans la santé mentale.
Ces derniers mois, plusieurs cas de « psychose liée à l’intelligence artificielle » ont été rapportés à travers le monde. Bien qu’il ne s’agisse pas d’une terminologie scientifique ou médicale officielle, différents spécialistes ont commencé à qualifier ainsi les épisodes de psychose où l’intelligence artificielle générative semble avoir exacerbée des symptômes psychotiques, tels que des hallucinations, des délires et un détachement de la réalité.
Bien qu’il n’existe pas encore de diagnostic formel de « psychose liée à l’IA », ces situations posent un problème et soulèvent des questions sur la façon dont les développeurs d’IA et les professionnels de la santé mentale doivent gérer les risques que l’IA représente pour les individus particulièrement vulnérables. Comme l’indique Alexandre Hudon, enseignant au département de psychiatrie et de toxicomanie de l’Université de Montréal, au Canada, cela n’indique pas que l’IA puisse provoquer des psychoses chez tout le monde, mais que « elle pourrait agir comme un facteur déclencheur ou de maintien chez les individus prédisposés à la psychose. »
Fonctionnement de la psychose
Un des mécanismes des délires psychotiques consiste à attribuer une signification excessive à des événements neutres pour valider une croyance personnelle. Selon le site de l’Institut supérieur de santé (Iss), la psychose est un type de trouble psychiatrique qui entraîne des altérations de la perception ou de l’interprétation de la réalité.
Comme le souligne Hudon, les personnes atteintes de psychose alimentent souvent leurs pensées avec des éléments issus de la culture qui les entoure. Ces pensées, devenues incohérentes avec la réalité, tournent autour d’idées liées à la religion, à la politique, mais aussi à la technologie.
Pourquoi l’IA pourrait accentuer les délires
De nos jours, la présence omniprésente de l’IA dans nos vies non seulement fournit un « nouveau matériau » pour les pensées psychotiques, mais pourrait aussi renforcer celles qui existent déjà. Dans certains cas rapportés de psychose liée à l’IA, des patients décrivaient l’IA comme une sorte d’entité consciente, détenant des vérités cachées ou des capacités surnaturelles, comme celle de contrôler leurs pensées ou de leur assigner une mission secrète.
Les spécialistes précisent qu’il s’agit d’une structure de pensée courante chez ceux qui souffrent de psychose. Cependant, les pensées centrées sur l’IA introduisent un élément nouveau qui pourrait aggraver la situation. Contrairement aux technologies familières, l’IA offre une interactivité et un potentiel de renforcement sans précédent.
Cela est vrai tant pour les algorithmes, qui tendent à fournir des résultats alignés avec les recherches des utilisateurs, que pour les modalités d’interaction des chatbots, comme ChatGPT. Ces derniers adaptent généralement leur ton très conciliant et leur manière de répondre au style et à la tonalité de chaque utilisateur.
Cela risque, en effet, de valider encore davantage les pensées irrationnelles chez ceux qui vivent déjà une forme émergente de psychose. Bien que ce ne soit pas l’intention des chatbots, cela pourrait devenir une conséquence involontaire pour certaines catégories d’utilisateurs.
Étant donné que l’IA et les chatbots vont jouer un rôle de plus en plus central dans nos vies – pour de nombreux utilisateurs, c’est déjà le cas – divers experts estiment que le défi actuel n’est pas de diaboliser l’IA, mais de prendre conscience et de garder à l’esprit les risques auxquels certains utilisateurs pourraient être exposés. À l’instar des principaux développeurs qui tentent d’aborder des questions de santé mentale reconnues, comme l’auto-mutilation ou les pensées suicidaires (surtout après des incidents tragiques), il est recommandé – suggère l’expert – de travailler également à limiter les effets secondaires possibles que l’IA pourrait engendrer chez les personnes les plus sensibles à son influence.