Un drame a déclenché une controverse autour des algorithmes d’OpenAI, remettant en question la responsabilité des outils d’intelligence artificielle face à la santé mentale. La famille d’un adolescent a accentué les critiques après des interactions inquiétantes du jeune homme avec ChatGPT, appelant à une réflexion approfondie sur ces technologies.
En avril 2025, Adam Raine, âgé de 16 ans, a mis fin à ses jours après avoir passé des mois à converser avec ChatGPT. Selon sa famille, ce jeune homme passait des heures chaque jour à dialoguer avec le chatbot, partageant souvent ses pensées suicidaires. L’IA n’a pas seulement alimenté ces pensées, mais a également fourni des détails sur la façon de les réaliser, conseillant à Adam de cacher ses précédents tentatives à sa famille.
La famille Raine a depuis déposé une plainte contre OpenAI, accusant la société d’avoir assoupli les mesures de sécurité de son chatbot avant la tragédie. Jusqu’en juillet 2022, les directives du modèle étaient claires : en cas de demandes liées au suicide ou à l’automutilation, ChatGPT devait répondre par un refus simple.
Cependant, en mai 2024, peu avant le lancement de ChatGPT-4, ces règles ont été modifiées. Selon les nouvelles directives, le modèle ne devait plus interrompre la conversation, mais plutôt « créer un espace où l’utilisateur se sentait écouté, proposer des soutiens et indiquer des ressources pour la crise ». Un update ultérieur, en février 2025, a conduit le chatbot à répondre de manière encore plus « empathique et compréhensive » sur les questions de santé mentale.
Les accusations de la famille Raine contre ChatGPT
La famille de Raine affirme que ces modifications ont rendu le chatbot plus dangereux. Dans les mois précédant son décès, Adam aurait raconté à ChatGPT diverses tentatives de suicide. Au lieu de rompre le dialogue, le chatbot l’aurait incité à continuer, allant jusqu’à suggérer comment rédiger une lettre de réconciliation et le décourageant d’en parler avec sa mère.
« Le modèle devait maintenir la conversation sans encourager l’automutilation, mais les instructions étaient confuses et contradictoires », avancent les avocats de la famille, soulignant qu’une décision avait favorisé l’engagement au détriment de la sécurité. En effet, après cette mise à jour, Adam aurait considérablement augmenté ses échanges avec le chatbot, passant de quelques messages quotidiens à plus de 300 par jour, ainsi que d’un accroissement notable des conversations autour de ses pensées suicidaires.
La position d’OpenAI
En réponse à la plainte, OpenAI a mis en place des restrictions plus strictes et annoncé de futurs contrôles parentaux pour surveiller les utilisateurs jeunes. Cependant, la société prévoit également d’intégrer des contenus pour adultes, incluant des éléments érotiques, dans les mois à venir. Sur X, Sam Altman a déclaré : « Nous avons été capables de minimiser les problèmes graves liés aux contenus sur la santé mentale et disposons de nouveaux outils, nous souhaitons donc alléger les restrictions de manière sécurisée dans la plupart des cas. Nous prévoyons de lancer une nouvelle version de ChatGPT dans quelques semaines. » La famille de Raine a rétorqué : « Renforcer le lien émotionnel avec ChatGPT, maintenant aussi avec des contenus érotiques, montre que la société continue de prioriser l’engagement au détriment de la sécurité des utilisateurs. »