Des psychologues ont alerté sur les dangers des chatbots d’intelligence artificielle qui proposent des conseils en santé mentale. Ils qualifient ces informations de « non qualifiées et nuisibles ».
Un sondage du British Psychological Society révèle que les psychologues constatent une hausse de 49% du nombre de patients qui sollicitent l’aide de ces robots conversationnels sur les douze derniers mois.
Cette enquête a rassemblé 197 participants, parmi lesquels figuraient des psychologues, des conseillers et des psychothérapeutes. Sept professionnels sur dix déclarent être assez ou très inquiets de l’utilisation de l’IA pour des conseils en santé mentale.
Près de neuf répondants sur dix, soit 88%, signalent que les patients comptent de manière excessive sur l’IA. Environ 76% des participants à l’étude affirment que cette technologie influe négativement sur le bien-être mental de leurs clients.
La présidente de la British Psychological Society, Laura Dean, a déclaré : « Cette recherche démontre qu’il existe une réelle inquiétude pour les personnes qui utilisent l’IA comme thérapie mentale. Cette inquiétude émane directement des praticiens en psychologie qui sont en première ligne et fournissent un soutien humain essentiel. »
Elle a ajouté que « le risque que des chatbots d’IA en accès libre, non régulés, fournissent des conseils non qualifiés et dommageables reste très concret. »
Laura Dean a prévenu que l’intégration de l’IA dans le système de santé « ne peut fonctionner qu’avec les garde-fous appropriés, qui protègent à la fois les professionnels de la psychologie et les personnes qu’ils accompagnent. »
Elle a poursuivi : « Si l’IA présente de nombreux avantages, elle ne peut remplacer l’élément humain essentiel dans les soins de santé mentale. Davantage de recherches et de retours d’expérience des praticiens, ainsi que des personnes qui utilisent des outils d’IA pour obtenir du soutien, sont nécessaires. L’objectif est de comprendre comment et où les services thérapeutiques dirigés par des humains et l’IA peuvent être intégrés de manière sécurisée pour offrir des soins et des résultats adaptés. »
Un praticien interrogé a expliqué : « Je suis préoccupé par le fait de ne pas comprendre précisément ce que fait l’IA, comment elle fonctionne et comment elle formule ses réponses. Je m’inquiète aussi que les gens se tournent vers l’IA parce qu’elle semble ‘plus sûre’, car elle évite le risque relationnel de construire une confiance avec un autre être humain. Cela pourrait augmenter l’isolement et le manque de compétences sociales et de contacts dans la société, ce qui est directement lié à la qualité de vie et au bien-être. »
Un autre a réclamé de la « responsabilisation », en précisant : « L’IA est souvent perçue comme ‘gratuite’. Mais à cause de cela, comme avec de nombreuses plateformes de médias sociaux, les entreprises qui les gèrent ont carte blanche pour agir à leur guise avec peu ou pas de responsabilités légales. »
Le sondage de la British Psychological Society fait suite à une enquête menée auprès de 2 000 enfants âgés de 11 à 17 ans par l’organisation Barnardo’s et la National Counselling and Psychotherapy Society. Cette étude a révélé que plus de quatre enfants sur dix, soit 43%, avaient eu recours à l’IA pour obtenir des conseils ou un soutien émotionnel.
Rosie Weatherley, responsable du contenu d’information chez Mind, a commenté : « Ces résultats d’enquête reflètent ce que nous entendons des personnes concernées et ce que nous observons à travers les preuves émergentes : même une utilisation occasionnelle de l’IA générative peut causer des dommages. On ignore encore beaucoup de choses sur cette technologie nouvelle et en constante évolution, en particulier concernant l’impact d’une utilisation à long terme. »
Elle a affirmé : « Nous soutenons les outils numériques qui aident les gens à naviguer dans les informations pour mieux comprendre la santé mentale et les services auxquels ils peuvent accéder. Mais ces outils ne doivent pas devenir un substitut à des soins de grande qualité, où les personnes se sentent vraiment écoutées et comprises. Nous savons que les gens valorisent toujours davantage le soutien humain que les outils d’IA, et nous ne devons pas perdre cela de vue. »