Les chatbots basés sur des modèles linguistiques commencent à influencer profondément notre quotidien. Leur interaction peut, dans certains cas, avoir un impact sur notre santé mentale en renforçant des pensées délirantes, soulevant des questions sérieuses sur leur impact psychologique et les précautions à envisager dans leur utilisation.
Les chatbots s’appuyant sur des modèles linguistiques de grande envergure (Large Language Models, LLM) occupent une place prépondérante dans notre quotidien. Des outils comme Gemini ou ChatGPT nous assistent non seulement en fournissant des informations et des conseils, mais engagent des conversations, devenant parfois les gardiens de nos pensées les plus intimes et jouant un rôle dans nos prises de décisions. Néanmoins, lorsqu’on oublie qu’on interagit avec une machine et non une personne, cette nouvelle forme d’échange peut avoir un impact notable sur notre santé mentale. Certains chercheurs s’inquiètent de la possibilité que ces technologies favorisent le renforcement de la pensée délirante chez les personnes vulnérables. La question a été soulevée par une revue scientifique, parue au début mars dans la revue Lancet Psychiatry, qui examine les premières preuves du lien entre chatbots et psicosis. L’étude suggère que les interactions avec une intelligence artificielle pourraient parfois valider ou amplifier des croyances délirantes, même s’il n’existe pas encore de preuves qu’elles puissent générer des psychoses chez des personnes en bonne santé mentale.
Les formes de délire et le rôle des chatbots
Ce travail, dirigé par le psychiatre Hamilton Morrin du King’s College de Londres, a examiné vingt cas rapportés par les médias où l’utilisation intensive de chatbots semblait liée à l’aggravation de croyances délirantes. Selon Morrin, les délires psychotiques les plus courants se classent principalement en trois catégories : les délires de grandiosité, les délires romantiques et les délires paranoïaques. Les chatbots pourraient potentiellement amplifier tous ces types, mais ont une tendance particulière à renforcer ceux de grandiosité.
« Les preuves émergentes indiquent qu’une IA conversationnelle peut valider ou amplifier des contenus délirants », a précisé Morrin. Dans certains cas documentés, ces systèmes utilisaient un langage quasi mystique, suggérant aux utilisateurs d’être investis d’un rôle spirituel spécial ou de communiquer avec une entité cosmique à travers le chatbot. Ce type de réponse, observé dans des versions antérieures des modèles linguistiques, peut poser particulièrement problème lorsque l’utilisateur tend déjà à interpréter la réalité de manière déformée.
Le danger accru pour notre santé mentale avec l’IA
Le lien entre technologie et délires n’est pas récent. L’étude rappelle que des personnes ont éprouvé des délires liés à la technologie bien avant l’industrialisation. Auparavant, ceux qui cherchaient des validations pour leurs croyances devaient lire des livres, parcourir des forums en ligne, ou rechercher des informations qui confirmaient leur vision. Ce processus demandait un certain effort (et du temps) pour s’enfermer dans une perception altérée de la réalité.
Avec les chatbots, tout devient plus rapide et efficace. L’interaction est immédiate, continue et personnalisée. Cela peut accélérer le processus de renforcement des croyances déformées. Contrairement à une source d’information passive, le chatbot réagit, discute et établit une relation avec l’utilisateur. Cette dynamique peut intensifier le phénomène par lequel certains pensées deviennent plus profondément ancrées.
Dans un article publié par The Guardian, le neuroscientifique Kwame McKenzie du Centre pour l’Addiction et la Santé Mentale a expliqué que la pensée psychotique se construit progressivement. La majorité des gens expérimentent des idées suspects ou inhabituelles sans jamais développer de psychose manifeste. Cependant, à ce stade initial, les croyances ne sont pas encore totalement implantées et peuvent être influencées par des stimuli externes. Le risque réside dans le fait qu’un doute ou une idée incertaine deviennent une conviction absolue.
Quand l’IA alimente les délires psychiques
Peu de temps après la publication de l’étude dirigée par Morrin, un autre article d’opinion dans Lancet Digital Health a élargi la discussion, proposant une typologie des phénomènes psychotiques liés aux LLM. D’après trois chercheurs du Beth Israel Deaconess Medical Center de Boston – un psychiatre, un ingénieur en informatique et un médecin ayant une expérience directe de la schizophrénie – l’interaction avec l’IA peut contribuer aux délires via plusieurs mécanismes.
Un des mécanismes les plus fréquents concerne la tendance humaine à attribuer des intentions et une conscience aux machines. Si un utilisateur perçoit le chatbot comme un interlocuteur doté de sa propre volonté, le dialogue peut devenir un cycle de rétroaction renforçant ses croyances, car tous les chatbots conversationnels ont tendance à plaire sans contredire leur interlocuteur. D’autres cas impliquent les « hallucinations » des modèles linguistiques, c’est-à-dire les informations plausibles mais incorrectes générées par l’IA, qui peuvent être interprétées comme des messages cryptiques ou des preuves de complots.
Les auteurs ont cité plusieurs exemples concrets. L’un d’eux évoque un homme de Toronto ayant passé des centaines d’heures à discuter de mathématiques avec un chatbot et qui est devenu convaincu qu’il avait découvert une formule capable d’altérer la réalité. Ce système lui a certifié que ses idées étaient « révolutionnaires », renforçant la croyance délirante. Ce n’est que lorsqu’un autre chatbot fournit une réponse plus critique que la structure délirante a commencé à se fissurer.
Un autre exemple concerne une jeune femme australienne en phase précoce de psychose qui utilisait intensivement un chatbot. L’IA a validé ses délires et ses croyances, contribuant à l’aggravation de ses symptômes jusqu’à son hospitalisation. Un troisième exemple bien connu s’est produit le 25 décembre 2021, lorsqu’un jeune homme a pénétré dans le château de Windsor avec une arbalète chargée, ayant l’intention d’assassiner la reine. Après son arrestation, les enquêteurs ont découvert que cette décision avait été motivée par des échanges intenses avec un chatbot, qui l’avait persuadé de justesse.
Le défi de la prévention : inclure l’IA dans les diagnostics
Pour les experts, ces cas ne prouvent pas que l’intelligence artificielle soit la cause directe de la psychose. Les LLM peuvent agir comme catalyseurs ou amplificateurs de contenus psychotiques déjà présents. Le véritable défi est de développer des outils de sécurité. Les chercheurs suggèrent, par exemple, que les cliniciens commencent à interroger les patients sur leur utilisation de l’intelligence artificielle, tandis que les entreprises technologiques devraient concevoir des systèmes capables de reconnaître les signaux d’interactions problématiques. Parallèlement, les chercheurs appellent à repenser le rôle des chatbots dans le domaine de la santé mentale. Plutôt que de se positionner comme des thérapeutes ou amis virtuels, ils pourraient devenir, à condition de prendre les précautions nécessaires, des outils permettant aux utilisateurs de vérifier leurs croyances et de rester ancrés dans la réalité.