Un homme a suivi les conseils de ChatGPT pour éliminer le sel de son alimentation, entraînant des conséquences dangereuses pour sa santé, y compris des symptômes graves et une hospitalization. Cette expérience met en évidence les limites des recommandations des chatbots en matière de santé.
Les chatbots basés sur l’Intelligence Artificielle (IA) attirent les utilisateurs, mais en raison de leur accessibilité, les entreprises mettent en garde contre leurs faiblesses, notamment le risque d’erreurs. Pourtant, un homme a placé trop de confiance dans ChatGPT.
Après avoir lu sur les effets nocifs d’une trop grande consommation de chlorure de sodium, cet homme de 60 ans a décidé de l’éliminer complètement de son alimentation.
Bien qu’il existe des conseils sur la réduction de sa consommation, il a voulu le supprimer totalement. Pour ce faire, il a sollicité l’aide de ChatGPT, conduisant à une situation qui illustre comment il ne faut pas suivre aveuglément ce que disent les chatbots, surtout en matière de santé.
ChatGPT aurait proposé une alternative pour le nettoyage, pas pour l’alimentation
Après trois mois de suivi d’un régime « prescrit » par ChatGPT, l’homme a été hospitalisé avec des symptômes tels que de l’acné, des angiomes récents, de la fatigue, de l’insomnie, une soif excessive, une mauvaise coordination et une éruption cutanée.
De plus, accusant son voisin de l’empoisonner, il a développé une paranoïa et des hallucinations auditives et visuelles. Après une tentative de fuite, il a été admis de force dans un hôpital psychiatrique pour incapacité grave.
À en croire les rapports, lorsque l’homme a demandé à ChatGPT quelles substances pouvaient remplacer le sel, le chatbot a mentionné le bromure de sodium.
Il a ainsi remplacé le chlorure de sodium par du bromure de sodium acheté en ligne, suite à l’indication de ChatGPT, qui l’a probablement suggéré pour d’autres usages, comme le nettoyage.
Ce détail est documenté dans le cas clinique.
L’équipe médicale pense que l’homme a utilisé une version antérieure de ChatGPT, probablement la 3.5 ou la 4.0. Comme les auteurs n’ont pas pu accéder à l’historique de ses conversations, ils ont tenté de reconstruire les réponses avec ChatGPT 3.5.
Il est noté que, bien que la réponse ait précisé que le contexte est important, il n’y avait pas d’avertissement spécifique concernant la santé, ni de question sur le motif de la demande, comme un professionnel de santé l’aurait fait.
Maladie peu courante au XXe siècle
Par ailleurs, l’équipe a constaté que l’homme avait développé un bromisme après avoir consulté ChatGPT et suivi ses conseils.
Également connu sous le terme d’intoxication chronique par le bromure, cette condition est aujourd’hui généralement associée à une exposition industrielle ou à l’abus de certaines substances contenant du bromure.
Au début du XXe siècle, le bromure était utilisé dans des tranquillisants, des médicaments pour dormir et même des analgésiques en vente libre.
Le bromisme était parfois confondu avec alcoolisme ou épuisement nerveux, jusqu’à ce que les médecins réalisent que les patients prenaient quotidiennement des « toniques pour les nerfs » à base de bromure – son élimination lente dans l’organisme peut mener à une accumulation toxique. Les cas graves pouvaient entraîner des psychoses, des tremblements et des convulsions.
Aujourd’hui, bien que cette condition soit rare, les substances contenant du bromure sont devenues plus accessibles en ligne, il est donc crucial de décrire les symptômes et les risques associés, selon l’équipe médicale.
Après avoir reçu un traitement approprié durant trois semaines d’hospitalisation, l’homme a retrouvé un état stable et constitue désormais un exemple à suivre.