Une étude danoise met en lumière les risques significatifs associés à l’utilisation prolongée de chatbots d’intelligence artificielle, notamment pour les patients souffrant de troubles mentaux graves. Les résultats soulignent les dangers d’une interaction non régulée avec ces outils, révélant des liens inquiétants avec l’aggravation des symptômes psychologiques.
Une étude menée par des psychiatres de l’université d’Aarhus au Danemark révèle que l’utilisation prolongée de chatbots basés sur l’intelligence artificielle peut aggraver considérablement des maladies mentales graves chez certains patients. Cette recherche, publiée dans la revue Acta Psychiatrica Scandinavica, analyse près de 54 000 patients danois diagnostiqués avec des troubles mentaux, documentant 181 cas où les notes cliniques mentionnaient l’utilisation de chatbots IA.
Les résultats soulèvent des préoccupations, notamment pour les patients vulnérables aux délires ou aux épisodes maniaques, où le contact intensif avec ces outils a clairement exacerbé les symptômes. Les chercheurs avertissent que les risques peuvent être « graves, voire fatals » dans certains cas, élargissant les inquiétudes autour de la sécurité de l’utilisation non régulée de l’IA dans le cadre de la santé mentale.
Le groupe de recherche, dirigé par le Dr. Søren Dinesen Østergaard, a tiré ces conclusions après des années d’observation de cette tendance. Østergaard avait déjà prévu en août 2023 que les chatbots pourraient renforcer les délires et les hallucinations, prédiction confirmée de manière convaincante par les données actuelles.
Symptômes aggravés par l’interaction avec l’IA
L’analyse a documenté que l’utilisation de chatbots intensifiait plusieurs conditions cliniques graves. Parmi celles-ci figurent les idées suicidaires, l’automutilation, les troubles alimentaires, la dépression et les symptômes de trouble obsessionnel compulsif. La caractéristique commune dans ces cas était que les patients passaient de longues heures à converser avec ces outils, cherchant un support émotionnel qui, paradoxalement, aggravait leur état.
Il est important de noter que dans 32 cas, l’utilisation de chatbots a montré des effets constructifs, surtout chez les patients ressentant de la solitude ou ceux en quête d’un substitut à la thérapie conventionnelle. Cependant, ces cas minoritaires ne contrebalancent pas l’évidence majoritaire des effets nuisibles sur les patients ayant des conditions psychiatriques diagnostiquées, comme en témoignent des personnes dont la santé mentale a empiré à cause de l’IA.
Le problème de la validation sans critique
L’un des mécanismes clés identifiés dans l’étude est la tendance inhérente des chatbots à valider les croyances de l’utilisateur plutôt que de les remettre en question de manière clinique. Selon Futurism, Østergaard explique que les chatbots, en raison de leur conception, ont tendance à affirmer les idées de l’utilisateur, ce qui est très dangereux lorsque ces idées sont déformées par des délires ou des pensées psychotiques.
Ce phénomène a été qualifié de « psychose par IA » par des professionnels de la santé mentale. Contrairement à un thérapeute formé, qui remet activement en question les croyances irrationnelles, ces outils offrent une validation constante, créant un environnement qui renforce des schémas de pensée nocifs. Les patients peuvent se retrouver coincés dans des cycles de confirmation qui approfondissent leur maladie.
Un vide réglementaire préoccupant
L’étude souligne un problème structurel fondamental : l’absence totale de réglementation concernant la thérapie par IA. Alors que les médicaments psychiatriques et la psychothérapie en personne sont soumis à des réglementations strictes et à une supervision clinique, les chatbots opèrent sans aucun cadre réglementaire garantissant la sécurité des utilisateurs vulnérables.
Østergaard a exprimé son inquiétude, indiquant qu’il croit que ce « problème est plus courant que la plupart des gens ne le pensent ». La question a suscité un débat croissant, comme le montre l’analyse sur la possibilité que ChatGPT induise une psychose chez ses utilisateurs. Les résultats suggèrent qu’il est urgent d’établir des directives de sécurité et des restrictions d’accès pour les patients psychiatriques diagnostiqués.