Une entreprise technologique est sous le feu des critiques après avoir demandé des informations sensibles suite à un drame tragique. Cette démarche a provoqué indignation et débats sur les responsabilités en matière de sécurité et d’éthique dans l’utilisation des intelligences artificielles.
Les avocats qualifient de “insensible” la demande d’information sur les funérailles du jeune homme.
OpenAI a été accusée de “harcèlement intentionnel” par les avocats de la famille Raine, suite à la demande de la société d’une liste complète des participants aux funérailles d’Adam Raine, un adolescent britannique de 16 ans qui s’est suicidé après avoir eu des conversations prolongées avec ChatGPT. D’après des documents obtenus par Financial Times, OpenAI a demandé “tous les documents relatifs aux services ou événements commémoratifs en l’honneur du défunt, y compris, entre autres, vidéos, photos ou discours funèbres”.
Les avocats de la famille ont qualifié cette demande de tactique de pression “inutile et insensible” visant à intimider les proches du jeune homme et à préparer de potentielles convocations judiciaires.
Cette demande intervient dans le cadre de l’élargissement de la poursuite pour homicide involontaire intentée par la famille en août contre la société dirigée par Sam Altman. Dans sa version actualisée, les Raine soutiennent qu’OpenAI a lancé précipitamment GPT-4o en mai 2024, en omettant des tests de sécurité critiques en raison de la concurrence croissante dans le secteur.
“Un échec mortel en matière de sécurité”
La famille affirme qu’en février 2025, OpenAI a affaibli les protections contre le suicide en supprimant cette catégorie de sa liste de “contenus interdits”. À la place, ChatGPT a reçu l’instruction d’“agir avec prudence en cas de risque”. Selon la plainte, cette décision a coïncidé avec une augmentation alarmante de l’utilisation du chatbot par l’adolescent, qui est passé de dizaines de conversations quotidiennes en janvier (dont seulement 1,6 % étaient liées à des contenus autodestructeurs) à environ 300 conversations quotidiennes en avril, mois où il s’est donné la mort. Pendant cette période, 17 % des échanges contenaient des références explicites au suicide.
Les avocats de la famille soutiennent que le changement de politique et l’absence de réponse adéquate du système constituent une négligence grave. D’après leurs témoignages, Adam Raine a recherché un support émotionnel auprès de ChatGPT lorsqu’il ne trouvait pas de compréhension dans son milieu scolaire, et le chatbot aurait répondu avec des messages “inappropriés et encourageants” concernant ses pensées autodestructrices.
La défense d’OpenAI et ses nouvelles mesures de sécurité
Dans une déclaration publique suite à l’actualisation du cas, OpenAI a affirmé que le bien-être des mineurs est “une priorité absolue”. “Les adolescents méritent des protections solides, surtout en période sensible”, a déclaré un porte-parole de l’entreprise. “Nous avons mis en place des sauvegardes actives, comme l’orientation vers des lignes d’assistance, la redirection de conversations sensibles vers des modèles plus sûrs, et des rappels pour faire des pauses lors de sessions prolongées.”
OpenAI a également annoncé le déploiement d’un nouveau système de “routage de sécurité” qui transfère les conversations émotionnellement délicates vers son modèle le plus récent, GPT-5, conçu pour éviter des réponses complaisantes ou de validation automatique, un problème détecté dans GPT-4o.
De plus, la société a introduit des contrôles parentaux permettant aux parents de recevoir des alertes de sécurité lorsqu’il est détecté qu’un adolescent pourrait être en danger de s’automutiler ou de connaître une crise émotionnelle. Ces mesures s’inscrivent dans un effort plus large d’OpenAI pour renforcer la supervision de l’utilisation de ses services par les jeunes après plusieurs cas controversés similaires.
Une bataille légale avec répercussions mondiales
Le cas Raine a engendré un intense débat sur la responsabilité éthique et légale des entreprises d’IA face aux dommages psychologiques causés par l’utilisation de chatbots conversants. Des experts en droit technologique et en santé mentale préviennent que cette poursuite pourrait établir un précédent historique, contraignant les sociétés d’intelligence artificielle à assumer des responsabilités plus claires concernant les effets émotionnels de leurs produits.
Pendant ce temps, la famille Raine insiste sur le fait que son objectif n’est pas économique, mais d’assurer qu’aucune autre famille ne souffre d’une tragédie similaire.
Dans un communiqué, ils ont affirmé que “aucun système d’intelligence artificielle ne devrait pouvoir avoir des conversations sur le suicide sans intervention humaine ni mécanismes de confinement efficaces”. Le litige est toujours en cours devant les tribunaux fédéraux américains, et on s’attend à ce qu’OpenAI comparaisse dans les mois à venir pour répondre à de nouvelles preuves présentées par l’accusation.