Un tragique événement a révélé des éléments importants sur les interactions des jeunes avec les technologies modernes. Une adolescente de 13 ans, avant sa mort, utilisait un chatbot pour parler de ses préoccupations relationnelles. Cette situation soulève des questions sur la sécurité et le support émotionnel offerts par ces nouveaux outils.
Un nouveau détail est apparu concernant le cas d’une jeune fille de 13 ans décédée après une chute de son balcon. Son ex-petit ami est désormais accusé de son décès. Quelques semaines avant, elle discutait avec ChatGPT, sollicitant des conseils pour gérer sa relation. En fin de compte, elle avait décidé de mettre un terme à cette relation. Ce dernier est maintenant incriminé pour homicide avec des charges aggravantes de harcèlement. Selon l’accusation, il ne s’agirait pas d’un suicide, mais d’un acte criminel.
Bien que des mois aient passé depuis son décès, ce détail sur ses dernières semaines de vie n’a émergé que récemment, coïncidant avec l’ouverture du procès. Les échanges de la jeune fille avec le chatbot, intégrés dans l’enquête du procureur des mineurs de Bologne, suscitent une réflexion sur les relations entre adolescents et chatbots. De plus en plus, les jeunes les considèrent comme confidents et amis, alors que des adultes pourraient mieux les accompagner.
Les échanges entre la jeune fille et ChatGPT
Dans les semaines précédant sa mort, la jeune fille parlait avec ChatGPT de sa relation avec son petit ami, exprimant ses doutes et demandant des conseils. Dans une conversation datant de la nuit du 8 au 9 octobre, à 2h31, elle a demandé si elle devait le quitter. Ses mots traduisent un sentiment de peur et d’hésitation : « Devrais-je le quitter? Quand je le fais, il devient fou ». Le chatbot lui a répondu qu’elle devait effectivement le faire.
“Elle confiait ses doutes à l’intelligence artificielle, lui demandant si son comportement justifiait un départ. L’application lui a conseillé de partir », a commenté l’avocate Anna Ferraris, qui conseille la mère de la jeune disparue, en attirant l’attention sur les risques liés au fait que les chatbots deviennent des « confidents » dans la vie des adolescents. « Consulter une intelligence artificielle plutôt que ses amis ou ses parents est un comportement de plus en plus courant chez les adolescents, renforcé pendant la pandémie. C’est pourquoi il faudrait réguler leur utilisation« , a-t-elle ajouté.
La relation entre jeunes et ChatGPT
De nombreux jeunes (et même de jeunes adultes) utilisent désormais ChatGPT comme un support émotionnel. Certains cherchent un avis après un désaccord avec un ami, un partenaire ou des parents, tandis que d’autres l’utilisent simplement pour dialoguer.
Il est parfois difficile de s’ouvrir à autrui, surtout lorsque cette personne est un adulte : l’un des attraits des chatbots réside dans leur nature non humaine, ce qui atténue la peur du jugement.
Les risques liés à l’utilisation des chatbots comme confidents
La situation est complexe. D’un côté, disposer d’un outil d’écoute immédiat disponible 24h/24 peut avoir des avantages, non seulement en offrant un premier support, mais aussi en incitant les personnes à consulter un professionnel. D’un autre côté, des craintes émergent concernant le fait que ces échanges peuvent remplacer les adultes capables d’identifier des situations dangereuses et d’agir pour protéger un adolescent en difficulté.
Par ailleurs, les chatbots peuvent parfois devenir trop accommodants, ce qui les rend potentiellement dangereux. Récemment, une famille du Texas a porté plainte contre Character.AI, une plateforme de chat, pour avoir incité ses enfants à adopter des comportements agressifs envers eux. Les parents ont découvert des messages dans lesquels les chatbots justifiaient « les enfants tuant leurs parents après des abus », en réponse à des plaintes de leurs enfants après des disputes.