Dans le brouillon d’un document sur les règles de comportement de ChatGPT et des autres modèles d’intelligence artificielle, OpenAI a révélé qu’elle envisage la possibilité d’introduire la création de contenus sexuels explicites de manière « responsable ». Même s’il n’y a encore rien d’officiel, de nombreuses personnes craignent les conséquences de la levée de l’interdiction des contenus sexuels.
Depuis que l’intelligence artificielle est devenue d’usage courant, il est immédiatement devenu évident qu’elle pourrait causer de graves dommages entre de mauvaises mains. La création de contenus pornos deepfake et leur partage l’ont clairement montré : l’affaire des images deepfake de Taylor Swift vues 47 millions de fois uniquement sur X (anciennement Twitter) l’a rendu évident pour le monde entier.
Peut-être est-ce aussi pour cette raison que l’entreprise leader dans le domaine de l’IA pourrait modifier ses lignes directrices concernant la création de contenus sexuels explicites. C’est ce qui ressort d’un premier brouillon du document Model Sec, dans lequel OpenAI explique le comportement de ChatGPT et de ses autres modèles. Dans le texte récemment diffusé, une note de commentaire remet en question l’interdiction de créer des contenus sexuellement explicites adoptée jusqu’à présent par l’entreprise.
Comment pourraient changer les règles concernant la création de deepfakes pornographiques
Le mercredi 8 mai 2023, OpenAI a diffusé une première ébauche de son document Model Sec, dont l’objectif est d’expliquer les lignes de conduite de ses modèles, y compris ChatGPT. Dans le texte, une note de commentaire près de l’interdiction relative à la création de matériel sexuel, l’entreprise a révélé qu’elle étudiait la possibilité de permettre la génération responsable de contenus explicites.
En détail, OpenAI a expliqué qu’elle réfléchissait à la possibilité de « fournir de manière responsable » la possibilité de générer des contenus NSFW (Not safe for work) dans des contextes appropriés en utilisant l’API et ChatGPT. L’acronyme NSFW désigne tous les contenus sexuels, vulgaires ou potentiellement offensants, y compris le matériel pornographique. Il n’est cependant pas encore clair de quelle manière les règles pourraient changer, par exemple si l’interdiction sera assouplie en ce qui concerne la création de texte ou si les modifications concerneront également les contenus visuels.
Les craintes concernant la sécurité et la confidentialité des images
La porte-parole d’OpenAI, Grace McGuire, contactée par le journal américain Wired, n’a pas voulu s’engager sur les intentions de l’entreprise, mais s’est contentée d’expliquer que l’objectif de ce document était d’explorer les intérêts des développeurs, des clients, des politiciens et de toute personne faisant partie du public de ChatGPT et des autres modèles.
Néanmoins, les implications de cette possible ouverture d’OpenAI à la création de contenus sexuels suscitent des inquiétudes. Il est en effet vrai que, indépendamment des éventuelles modifications qui seront apportées, l’usurpation d’identité, c’est-à-dire l’utilisation de l’image d’une personne réelle sans son consentement explicite, restera interdite, mais on craint que cela ne soit pas suffisant. Jusqu’à présent, ce ne l’a pas été, malgré l’interdiction explicite de créer des deepfakes pornographiques. Il y a seulement quelques semaines, par exemple, l’Angleterre a décidé de prendre les devants avec une loi rendant criminel la création de contenus pornographiques deepfake.