Character.AI remplace son chat ouvert pour les jeunes par « Stories », une fonction narrative supervisée. Cette décision suit des préoccupations concernant les risques liés à l’interaction des mineurs avec des contenus inappropriés. « Stories » propose des scénarios sécurisés, visant à protéger les utilisateurs les plus jeunes.
La plateforme d’intelligence artificielle Character.AI remplace le chat ouvert pour mineurs par « Histoires », une fonction narrative supervisée, après avoir été mentionnée dans plusieurs rapports alertant des risques de son utilisation
Character.AI, une des plateformes de chatbots les plus populaires au monde, a décidé de restreindre l’accès des plus jeunes à certains contenus sur sa plateforme. Dès maintenant, les mineurs de moins de 18 ans ne pourront plus interagir avec la fonction de chat de texte ouvert et pratiquement sans restrictions, un espace où, selon plusieurs sources, des adolescents et même des enfants prépubères maintenaient des conversations sexuellement explicites (ou potentiellement dangereuses pour d’autres raisons) avec les « personnages » du catalogue de l’application.
À la place, la société a lancé « Histoires », un nouveau format interactif, mais encadré, conçu spécifiquement pour offrir un environnement plus sécurisé au public jeune.
La fonction fonctionne comme une expérience de « choisis ta propre aventure », où les jeunes utilisateurs peuvent sélectionner entre deux et trois personnages, choisir un genre narratif et écrire ou générer automatiquement une prémisse. À partir de là, l’histoire se développe en présentant à l’utilisateur des options qui orientent la trame, mais à l’intérieur d’un cadre prédéfini qui évite les dérives vers des thèmes dangereux ou inappropriés.
Pression légale et sociale
Cette décision, annoncée par le biais d’un communiqué sur le site de Character.AI, intervient dans un contexte de scrutin légal et médiatique constant pour la plateforme pour diverses raisons. Par exemple, en février 2025, la société a été poursuivie par la mère d’un enfant de 14 ans qui s’est suicidé après être devenu obsédé par un bot de la compagnie inspiré par Daenerys Targaryen, personnage de Game of Thrones.
Après cette tragédie, il a été nécessaire d’étudier les risques potentiels associés à ce type de technologies, ce qui a conduit à un rapport publié par l’organisation à but non lucratif Common Sense Media, rédigé en collaboration avec des chercheurs de l’Université de Stanford.
Le rapport a qualifié les applications de compagnons IA comme Character.AI de représenter « des risques inacceptables » pour le public jeune, appelant à restreindre complètement l’accès à ces applications aux utilisateurs de moins de 18 ans. Les tests réalisés pour l’étude ont permis aux chercheurs de conclure que ces systèmes produisaient facilement des réponses nuisibles, y compris des comportements sexuels inappropriés et des conseils qui, s’ils étaient suivis, « pourraient mettre en danger la vie ».
Cette mesure a suscité des réactions partagées. Sur des forums comme le subreddit de Character.AI, de nombreux utilisateurs adolescents ont exprimé leur frustration face à la perte de la liberté qu’offrait le chat ouvert et aux nouvelles limites imposées par la société.
J’ai laissé mon c.ai ouvert la nuit par accident, qu’est-ce que c’est😭
paru/-Exolon- dansCharacterAI
Cependant, certains des utilisateurs affectés ont reconnu à contrecœur que ce changement pourrait les aider à se détourner de comportements d’utilisation peu sains et de la dépendance émotionnelle que certains avaient développée envers les bots, qui, selon moi, frôlait la psychose. Honnêtement, je ne comprends pas comment quelqu’un aurait pu penser qu’un chat ouvert sans restriction d’âge était une bonne idée.