OpenAI a reconnu avoir envisagé de prévenir la police canadienne après des messages troublants laissés par Jesse Van Rootselaar, une adolescente impliquée dans un tragique incident qui a fait neuf victimes. L’analyse des interacciones montre des signaux préoccupants, soulevant des questions sur la gestion de la violence potentielle.
OpenAI, le géant américain de l’intelligence artificielle dirigé par Sam Altman et responsable de ChatGPT, a déclaré avoir envisagé d’alerter les forces de police canadiennes suite à des messages inquiétants laissés sur le chatbot par Jesse Van Rootselaar, une jeune femme de 18 ans. Elle est l’auteure d’un des pires massacres de masse de l’histoire du Canada survenu récemment. Le 10 février 2026, à Tumbler Ridge, en Colombie-Britannique, après avoir tué sa mère de 39 ans et son demi-frère de 11 ans, elle s’est rendue dans son ancienne école, Tumbler Ridge Secondary School, où elle a tué une enseignante (également âgée de 39 ans) et six adolescents. Elle a ensuite retourné l’arme contre elle-même, se suicidant. Ce drame a causé neuf morts et 27 blessés, dont certains dans un état grave. Le mobile de cette atrocité n’est pas clair, mais, comme l’explique le Guardian, la jeune femme avait déjà eu des contacts avec la police en raison de problèmes de santé mentale. Deux ans plus tôt, toutes les armes avaient été saisies chez elle.
Tout a commencé en juin dernier, lorsque Jesse Van Rootselaar a commencé à évoquer des séries de fusillades et de violence armée sur ChatGPT. Un système de contrôle automatisé a rapidement alerté les employés de l’entreprise, qui ont évalué la situation. Selon le Wall Street Journal, certains conseillaient de signaler le cas à la Royal Canadian Mounted Police (RCMP), mais finalement, cette décision n’a pas été prise. Selon un porte-parole d’OpenAI, les critères pour alerter les autorités n’étaient pas satisfaits. Autrement dit, bien que les conversations de la jeune femme aient été violentes, elles n’indiquaient pas d’intention de planifier un attentat. En l’absence d’un risque crédible et imminent, la question a été traitée en interne, sans alerter la police. OpenAI a finalement fermé le compte de la jeune fille en juin 2025 pour avoir encouragé des activités violentes, sans toutefois engager d’autres actions, jugeant qu’il n’y avait pas de danger imminent pour autrui.
Malheureusement, après les événements tragiques survenus huit mois plus tard, il est légitime de penser que ces messages contenaient des signaux d’alerte concernant des intentions meurtrières, renforcés par d’autres comportements observés dans le parcours web de Jesse Van Rootselaar. Par exemple, il a été révélé qu’elle avait conçu une “simulation” de fusillade de masse sur la plateforme de jeux Roblox, bien que son travail n’ait pas été approuvé pour partage. De plus, elle aurait déclaré avoir fabriqué une munition pour une arme avec une imprimante 3D. Malgré ces antécédents, des interventions en raison de sa santé mentale et la confiscation de ses armes à feu, il est évident qu’elle n’aurait pas dû avoir accès à des armes, mais les enquêtes sur le récent incident se poursuivent pour faire toute la lumière sur ce qui s’est passé.
Si les employés d’OpenAI se sont inquiétés des propos de la jeune fille sur ChatGPT, au point de suggérer aux dirigeants de contacter la police, il est probable que ses échanges avec l’intelligence artificielle aient dépassé une limite, sans toutefois déclencher une intervention. À la lumière de cette tragédie, il n’est pas impensable qu’une réévaluation des seuils considérés comme “acceptables” dans les interactions avec le chatbot soit envisagée avant d’impliquer les forces de l’ordre.