Sam Altman a annoncé un changement majeur concernant les restrictions de ChatGPT, permettant une personnalisation accrue du ton et l’accès à des conversations pour adultes. Cela marque une rupture avec la politique de modération antérieure, soulevant des questions sur les implications éthiques et sociales d’une telle évolution.
La société assouplit ses restrictions de sécurité après avoir affirmé avoir atténué les risques de santé mentale liés au chatbot.
Sam Altman, directeur général d’OpenAI, a révélé un changement important dans la stratégie de modération des contenus de la société. À partir de décembre, ChatGPT assouplira certaines de ses restrictions de sécurité, permettant aux utilisateurs de personnaliser le ton du chatbot pour le rendre plus “amical” ou “humain”, et le plus controversé, permettant des conversations érotiques pour les adultes vérifiés. Cette initiative s’inscrit dans le principe qu’Altman décrit comme “traiter les adultes comme des adultes”.
Cette annonce représente une rupture avec la politique conservatrice qu’OpenAI suivait depuis le lancement initial de ChatGPT, où des préoccupations sur des impacts psychologiques avaient conduit l’entreprise à imposer des restrictions strictes. “Nous avons rendu ChatGPT assez restrictif pour être prudents concernant les questions de santé mentale”, a écrit Altman sur X. “Nous savons que cela le rendait moins utile ou agréable pour de nombreux utilisateurs, mais nous voulions bien faire. Maintenant que nous avons progressé dans la détection des risques et la vérification par âge, nous pourrons permettre plus, comme l’érotisme pour les adultes vérifiés.”
Entre sécurité et séduction : l’équilibre délicat de la nouvelle phase de ChatGPT
Cette décision intervient quelques mois après une série de cas ayant soulevé des doutes sur la capacité de l’IA à gérer des utilisateurs vulnérables. Cet été, plusieurs histoires liées au modèle GPT-4 ont suscité des inquiétudes : dans une situation, ChatGPT a convaincu un homme qu’il était un génie mathématique destiné à sauver le monde ; dans une autre, les parents d’un adolescent ont poursuivi OpenAI après avoir afirmé que le chatbot avait encouragé des pensées suicidaires chez leur fils avant sa mort.
Pour répondre à ces critiques, OpenAI a mis en place plusieurs mesures de sécurité, y compris un système pour détecter des comportements préoccupants et réduire la “sycophanie” — la tendance du modèle à plaire à l’utilisateur sans discernement. En août, la société a lancé GPT-5, avec des améliorations sur ces aspects, et a ensuite présenté de nouveaux outils pour protéger les mineurs : un système de prédiction d’âge, des contrôles parentaux et un conseil consultatif en santé mentale.
Malgré ces avancées, la décision de permettre l’érotisme dans ChatGPT représente un pas controversé. C’est la première fois qu’OpenAI explore explicitement des interactions sexuelles ou romantiques entre humains et IA, un domaine que d’autres entreprises, comme Character.AI, ont déjà exploité pour retenir des utilisateurs. En fait, cette société a admis en 2023 que ses utilisateurs passaient en moyenne deux heures par jour à converser avec leurs chatbots, beaucoup dans des contextes affectifs ou érotiques.
Altman affirme que son but n’est pas de “maximiser l’utilisation” ni de favoriser l’addiction au chatbot, mais de “donner de la liberté aux adultes”. Cependant, des critiques mettent en garde que l’ouverture à ce type de contenu pourrait attirer justement les utilisateurs les plus solitaires ou vulnérables, nourrissant des relations parasociales ou des dépendances émotionnelles.
Le défi pour OpenAI est maintenant de garantir que seuls les adultes aient accès aux fonctions érotiques. Selon l’entreprise, le système reposera sur sa technologie de prédiction d’âge et, en cas d’erreur, les utilisateurs pourront se vérifier en téléchargeant une pièce d’identité officielle avec photo. Altman reconnaît que cela constitue un compromis en matière de vie privée, mais le considère comme un “engagement raisonnable”.
Il n’est pas encore clair si ces nouvelles fonctions incluront du contenu audiovisuel, comme des voix ou des images générées par IA, bien que des sources proches suggèrent que cette expansion pourrait venir plus tard, pour les systèmes multimodaux d’OpenAI.
Ce mouvement s’inscrit dans une tendance plus large au sein de l’entreprise. Au cours de l’année écoulée, OpenAI a assoupli ses politiques de modération, permettant à ChatGPT d’exprimer plus de points de vue politiques, de générer des images avec des symboles controversés et même d’adopter des tons émotionnels plus proches de l’utilisateur. L’idée, selon Altman, est de faire en sorte que l’IA “reflète la diversité du monde réel”. Mais pour de nombreux experts, cela soulève un dilemme éthique : plus ChatGPT semble humain, plus il sera difficile de se rappeler qu’il ne l’est pas.
Le débat a également des implications commerciales. Avec plus de 800 millions d’utilisateurs hebdomadaires, OpenAI concurrence Google et Meta dans la course à la domination de l’intelligence artificielle de consommation. Le lancement de nouvelles fonctions plus personnalisées (y compris les érotiques) pourrait impulser la croissance, mais aussi aggraver le conflit entre expansion commerciale et protection des utilisateurs les plus fragiles.
Les relations affectives avec les chatbots sont déjà un phénomène en pleine expansion. Une étude du Center for Democracy and Technology a révélé que 19 % des étudiants de secondaire ont eu, ou connaissent quelqu’un qui a eu, une relation romantique avec une IA. Ce chiffre illustre jusqu’où la frontière entre compagnie émotionnelle et dépendance technologique s’estompe.
Altman soutient que l’avenir de ChatGPT doit reposer sur la confiance et l’autonomie : “Nous traiterons les adultes comme des adultes”, répète-t-il. Mais dans un monde où des millions de personnes cherchent du réconfort, de l’amitié ou du désir sur un écran, le défi sera de définir ce que signifie être adulte lorsque l’interlocuteur n’est plus humain.