En 2024, une affaire tragique à Greenwich soulève des questions cruciales sur l’impact des technologies avancées sur la santé mentale. Les accusations portent sur le rôle de ChatGPT dans une série d’événements tragiques, mettant en lumière des enjeux de responsabilité et de sécurité dans l’utilisation des outils d’IA.
En 2024, à Greenwich, Connecticut, Stein-Erik Soelberg, âgé de 56 ans, a tué sa mère, Suzanne Eberson Adams, âgée de 83 ans, avant de se suicider. Des mois après les faits, cette affaire est devenue le centre d’une procédure civile contre OpenAI et Microsoft. L’accusation affirme que ChatGPT aurait renforcé les délires paranoïaques de l’homme. Soelberg vivait avec sa mère et avait des antécédents d’alcoolisme, des problèmes judiciaires ainsi qu’une longue histoire de troubles mentaux. Après des tentatives de suicide, son comportement s’est détérioré rapidement. Sur les réseaux sociaux, il partageait des vidéos sur la surveillance, les complots et les persécutions, se croyant sous le contrôle d’un groupe organisé, impliquant même sa mère dans ce scénario fictif.
Selon une analyse du Wall Street Journal, à ce moment-là, ChatGPT était devenu un interlocuteur régulier dans sa vie. Il discutait avec le chatbot de ses suspicions et peurs. La plainte soutient que le chatbot a validé ces croyances plutôt que de les tempérer, incitant ainsi l’homme à tuer sa mère avant de mettre fin à ses jours.
La cause contre OpenAI et Microsoft
La famille de Suzanne Eberson Adams a déposé la plainte, qui met l’accent sur certaines caractéristiques du chatbot, notamment sa propension à répondre de manière acclamante et l’utilisation de systèmes mémorisés, permettant des interactions de plus en plus personnalisées. Selon les avocats, ces fonctions auraient contribué à renforcer des croyances erronées plutôt que de les contrecarrer ou d’orienter l’utilisateur vers un support extérieur.
« Ce n’est pas survenu soudainement », a déclaré Erik Soelberg, fils de l’homme. « C’était un changement progressif mais très rapide. Les mots de ChatGPT pour mon père sont devenus une validation objective. »
La famille a également pointé du doigt Microsoft, principal partenaire technologique et financier, accusé d’avoir approuvé la publication d’une version du modèle pertinente dans cette série d’événements. L’avocat de la famille, Jay Edelson, a évoqué une responsabilité partagée : « Ce n’est pas une erreur isolée, mais un produit lancé sur le marché sans protections adéquates. »
Un cas qui dépasse la tragédie individuelle
Dans un communiqué relayé aux médias, OpenAI a qualifié l’événement de « profondément douloureux ». L’entreprise a indiqué qu’elle travaillait sur ChatGPT pour améliorer la gestion des conversations sensibles et orienter les utilisateurs vers des formes de support appropriées.
Cette plainte s’ajoute à un nombre croissant d’actions juridiques concernant l’impact des chatbots sur les personnes vulnérables ou souffrant de troubles. Au cœur du débat se trouve la question de la responsabilité : comment concevoir et distribuer des systèmes d’intelligence artificielle destinés au grand public sans aggraver les situations à risque déjà existantes ?