Un cas d’utilisation malheureuse de l’intelligence artificielle a conduit un homme de 60 ans à se méfier de son voisin, pensant qu’il était empoisonné. Ce fait soulève des interrogations sur la fiabilité des conseils fournis par les outils d’IA comme ChatGPT, qui ne devraient pas remplacer l’expertise professionnelle.
L’intelligence artificielle s’est intégrée dans notre quotidien, devenant un allié indissociable. Cependant, son utilisation nécessite discernement pour éviter des situations inattendues. Ce fut le cas d’un homme de 60 ans persuadé que son voisin tentait de l’empoisonner. L’origine de ses craintes ? ChatGPT.
Ce scénario met en lumière la tendance à préférer l’usage de l’IA plutôt que de consulter des experts. Certains usagers se tournent vers ChatGPT, le considérant comme un conseiller ou un psychologue. Pourtant, la plateforme d’OpenAI ne peut remplacer les connaissances d’un professionnel de la santé.
Un cas d’intoxication au bromure
Les rapports indiquent que le patient est arrivé à l’hôpital, souffrant d’hallucinations visuelles et auditives, affirmant que son voisin voulait l’empoisonner. Malgré une soif intense, il refusait de boire de l’eau. L’état préoccupant de l’homme a conduit les médecins à le placer sous observation psychiatrique. Selon un communiqué médical publié dans Annals of Internal Medicine Clinical Cases, des niveaux de bromure excessifs ont été détectés dans son organisme.
Une fois stabilisé, l’homme a expliqué qu’il cherchait à réduire sa consommation de sel après avoir trouvé des informations sur les dangers du sodium. Dans un moment d’inspiration, il a posé la question à ChatGPT qui lui a conseillé de remplacer le chlorure par du bromure, un conseil pour le moins imprudent. Suite à cette recommandation, il a commencé à ingérer du bromure de sodium, développant ainsi le bromisme. Cette intoxication, bien que rare aujourd’hui, continue d’arriver.
ChatGPT dans le collimateur
L’incident de cet homme sert d’avertissement sur l’utilisation de ChatGPT comme source médicale. OpenAI insiste sur le fait que sa plateforme ne doit pas remplacer les conseils des professionnels et rappelle que les modèles d’IA incitent l’utilisateur à consulter des spécialistes.
D’après les Annals, aucun professionnel ne conseillerait le bromure comme substitut sain au sel. Les tests médicaux ont révélé un taux de chlorure élevé dans le sang, mais il s’agissait d’une lecture erronée, appelée pseudohyperchlorémie. L’homme souffrait également d’insomnie, de fatigue et d’autres symptômes dus aux effets néfastes du bromure.
Le personnel médical a agi rapidement et l’état de l’homme s’est progressivement amélioré : la paranoïa s’est atténuée au fil des jours et il a pu relater ses mésaventures avec ChatGPT. Après trois semaines, il a été libéré et les antipsychotiques prescrits ont été progressivement arrêtés. Bien qu’il soit difficile de dire ce qui se serait passé sans intervention rapide, il est évident que ChatGPT peut être utile, mais ne doit jamais remplacer l’avis d’un professionnel qualifié.