Un nouveau projet de réglementation en Chine vise à encadrer l’utilisation des chatbots émotionnels. L’objectif est de prévenir des comportements autodestructeurs tout en exigeant le consentement parental pour les mineurs. L’initiative pourrait transformer le paysage numérique et garantir un meilleur contrôle sur les relations virtuelles.
Le nouveau projet de la CAC chinoise interdit à l’IA de manipuler les émotions et exige le contrôle des parents pour freiner le phénomène des « petits amis virtuels »
La Chine a présenté un projet de réglementation pour instaurer un contrôle inédit sur les chatbots imitant les émotions humaines. Selon l’Administration du Cyberespace (CAC), l’objectif est d’interdire à ces systèmes d’inciter au suicide, à l’automutilation ou au jeu. Cette initiative survient alors que le pays connaît un essor des compagnons virtuels générant déjà des revenus colossaux.
La nouvelle, rapportée par CNBC, vise directement à réguler des applications comme Talkie (de MiniMax) ou Xingye (de Zhipu AI). Ces plateformes reposent sur des relations affectives avec des personnages numériques, d’où l’exigence que la conversation soit aussitôt reprise par un humain si des idées suicidaires émergent. Il est à noter que détecter ces dépendances psychologiques est complexe.
De la sécurité des données à la sécurité émotionnelle
En observant l’évolution des normes, on constate que la Chine évolue de la surveillance de ce que dit l’IA à celle des sentiments de l’utilisateur. L’expert Winston Ma souligne que ce projet représente un tournant de la sécurité du contenu vers la sécurité émotionnelle. Il s’agit d’un effort pour maîtriser l’anthropomorphisation des machines avant que l’isolement social ne devienne irréversible.
Ce contrôle signifie que les mineurs auront besoin du consentement explicite de leurs tuteurs pour interagir avec ces assistants artificiels. De plus, les entreprises devront instaurer des systèmes permettant d’identifier l’âge réel des utilisateurs, afin d’éviter que les enfants ne contournent ces restrictions. L’idée ici est d’appliquer des filtres biologiques à une technologie dérégulée qui est déjà largement répandue.
La réglementation met également l’accent sur la dépendance, obligeant les plateformes à fournir des alertes après deux heures d’utilisation ininterrompue. Si une application détecte des comportements addictifs ou des émotions extrêmes, le fournisseur doit intervenir avec des mesures adaptées. Cette surveillance constante est justifiée, car certaines de ces applications d’IA émotionnelle, comme Replika, sont déjà un phénomène mondial.
En parallèle, l’approche occidentale est différente. La Loi sur l’IA adoptée en Europe se concentre davantage sur les risques généraux des systèmes, mais ne s’intéresse pas autant à la psychologie de l’utilisateur. En France, par exemple, les efforts actuels se limitent à des amendes pour manque de transparence sur l’origine des contenus générés par des machines.
Pékin souhaite finaliser ce projet avant le 25 janvier 2026, date à laquelle se termine la consultation publique. Ce qui est en jeu dépasse la santé mentale ; il s’agit également du contrôle sur un marché où des entreprises comme Zhipu AI préparent leur introduction en bourse. En fin de compte, la priorité de la Chine est que l’IA soit utilisée à des fins productives, plutôt que pour des romances numériques.