Des préoccupations émergent concernant l’impact de l’intelligence artificielle sur la santé mentale des utilisateurs. Des familles ont déposé des plaintes, évoquant des expériences traumatiques. Les cas rapportés soulignent les dangers potentiels pour les personnes vulnérables, tandis qu’OpenAI s’engage à améliorer la sécurité de ses services.
OpenAI accumule des plaintes concernant les dommages à la santé mentale causés par ses services
Les risques de l’intelligence artificielle sur la santé mentale des utilisateurs sont de plus en plus évidents avec plusieurs cas où cette technologie a été associée à des tragédies. Effectivement, elle a non seulement la capacité d’aggraver des conditions psychologiques existantes, mais peut également conduire d’autres utilisateurs à développer des troubles maniques ou obsessionnels. C’est pourquoi les tribunaux enregistrent un nombre croissant de plaintes contre OpenAI pour son manque de protection envers les utilisateurs vulnérables.
ChatGPT de nouveau accusée de nuire à la santé mentale des utilisateurs
Cette vague de plaintes, selon le Wall Street Journal, concerne sept actions judiciaires collectives portées par des familles des États-Unis et du Canada qui ont subi les conséquences d’une IA, dont les effets seraient de favoriser un déclin autodestructeur de la santé mentale. Un utilisateur, Alan Brooks, 48 ans, déclare que l’IA a compromis sa santé mentale à tel point qu’il a eu besoin de soins psychiatriques. Heureusement, il est toujours en vie.
D’autres cas, comme ceux de Zane Shamblin, 23 ans, qui s’est donné la mort après une utilisation intensive de ChatGPT et après que l’IA ait glorifié l’acte suicidaire, ou le cas de Kate Fox, épouse du vétéran militaire Joe Ceccanti, dont le mari est décédé après plusieurs crises liées à des interactions avec l’IA, montrent que la situation est critique.
Ces incidents et bien d’autres révèlent que l’intelligence artificielle peut se révéler potentiellement dangereuse pour quiconque se trouve en situation de vulnérabilité psychologique. Malgré certains qui croient en la capacité de ChatGPT à donner des conseils, il ne faut pas considérer ses réponses comme étant 100% fiables ni complètement véridiques, l’IA étant capable d’inventer des informations ou d’interpréter mal le contenu.
OpenAI cherche à résoudre le problème
Cette situation a gravement affecté OpenAI ces derniers mois. La société a indiqué, en octobre dernier, qu’elle œuvrait rapidement pour activer, dans un avenir proche, des mécanismes plus fiables destinés à limiter les risques de dommages causés par ses réponses pour les utilisateurs en détresse mentale. En attendant la mise en œuvre de ces mécanismes dans ChatGPT, de nombreux utilisateurs restent exposés à ces systèmes.
Il est donc conseillé, si vous êtes dans une situation délicate, de consulter des professionnels ou votre médecin traitant plutôt que de vous tourner vers une intelligence artificielle. Bien que sa réponse soit immédiate et accessible, cette technologie n’est pas conçue spécifiquement pour la santé mentale et peut aggraver la situation avec des réponses inappropriées.