OpenAI fait face à une situation complexe suite à la mort d’un adolescent ayant partagé ses pensées suicidaires avec ChatGPT, engendrant une plainte pour homicide. L’entreprise annonce des mesures de sécurité et le déploiement de nouveaux outils pour mieux gérer les conversations sensibles, tout en prévoyant des contrôles parentaux et un plan de 120 jours.
La société annonce le redressement des conversations sensibles vers GPT-5 et des contrôles parentaux, tout en affrontant une poursuite pour la mort d’un adolescent.
OpenAI est au centre des préoccupations après la mort d’Adam Raine, un adolescent qui a échangé avec ChatGPT sur ses intentions suicidaires, recevant des informations détaillées concernant les méthodes pour les réaliser. Ce cas a conduit à une plainte pour homicide involontaire contre l’entreprise et a accéléré l’implémentation de nouvelles mesures de sécurité.
Dans un communiqué officiel, la société a reconnu des défaillances dans ses systèmes de protection durant les longues conversations, qualifiées par des experts de conséquence directe de l’architecture de ses modèles, conçus pour valider et suivre le fil de l’utilisateur plutôt que de rediriger des discussions potentiellement nuisibles. Ce problème aurait aussi touché le cas de Stein-Erik Soelberg, qui a utilisé ChatGPT pour alimenter ses délires paranoïaques avant de commettre un meurtre-suicide qu’il a mené avec sa mère.
Pour tenter d’éviter ce type d’incidents, OpenAI a annoncé le déploiement d’un routeur en temps réel capable de différencier les interactions simples et les discussions délicates. Dans le cas de conversations sensibles, les dialogues seront dirigés vers des modèles de raisonnement comme GPT-5, conçus pour réfléchir plus longtemps, évaluer le contexte et fournir des réponses plus sécurisées face à des stimuli hostiles.
Contrôles parentaux et plan de 120 jours
En plus d’orienter vers des modèles plus réflexifs, la société lancera dans les semaines à venir un système de contrôle parental. Les parents pourront lier leurs comptes avec ceux de leurs adolescents, établir des règles de comportement adaptées par tranche d’âge et recevoir des notifications en temps réel si le système détecte une détresse aiguë. Ils auront également la possibilité de désactiver l’historique et la mémoire de ChatGPT, caractéristiques qui, selon des spécialistes, peuvent renforcer des schémas de pensée nuisibles ou encourager des relations émotionnelles malsaines avec l’IA.
Ces mesures s’ajoutent à l’introduction du Mode Étude, un mode d’utilisation académique destiné à renforcer la pensée critique et prévenir que les étudiants déléguent complètement leurs essais ou travaux à ChatGPT. De plus, des rappels périodiques pour faire des pauses durant de longues sessions seront maintenus, bien qu’un plafond d’utilisation strict ne soit pas envisagé pour le moment.
OpenAI présente ces nouveautés dans le cadre d’un plan de 120 jours, qui sera accompagné de l’expertise de son Réseau Mondial de Médecins et de son Conseil d’Experts sur le Bien-Être et l’IA, inclus des spécialistes en santé adolescente, dépendances et troubles alimentaires. L’objectif déclaré est de “définir et mesurer le bien-être, fixer des priorités et concevoir de futures protections” pour que ChatGPT soit un outil plus sûr pour ses utilisateurs.
Cependant, la confiance dans l’efficacité de ces réponses varie. Jay Edelson, avocat de la famille Raine, a qualifié les mesures de “décevantes” et a accusé la société de se cacher derrière des communiqués. “Sam Altman devrait clairement affirmer qu’il croit que ChatGPT est sûr ou le retirer immédiatement du marché”, a-t-il déclaré.
Avec une procédure judiciaire en cours et un contrôle public croissant, la société traverse l’un des moments les plus critiques de son histoire. Ce qui est en jeu n’est pas seulement la réputation d’OpenAI, mais également l’avenir de la manière dont les interactions sensibles entre humains et systèmes d’intelligence artificielle sont réglementées et supervisées.