AU PORNO OU PAS AU PORNO ? Les grandes entreprises d’IA générative utilisent strictement des filtres et des garde-fous pour empêcher les utilisateurs de générer de la pornographie et d’autres contenus explicites, mais OpenAI, le développeur de ChatGPT et DALL-E, envisage d’autoriser cette pratique. Il y aura cependant certaines restrictions, notamment une interdiction de la création de deepfakes.
Le document Model Spec récemment publié par OpenAI révèle que la position autrefois dure de l’entreprise contre la production de porno et d’autres contenus NSFW pourrait bientôt s’assouplir.
« Nous étudions si nous pouvons fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l’âge via l’API et ChatGPT », écrit OpenAI. « Nous sommes impatients de mieux comprendre les attentes des utilisateurs et de la société en matière de comportement des modèles dans ce domaine. »
La société affirme que le type de contenu que les utilisateurs seraient autorisés à créer de manière « responsable » comprend l’érotisme, le gore extrême, les insultes et les grossièretés non sollicitées. Actuellement, les règles d’OpenAI interdisent tout contenu sexuellement explicite ou suggestif.
Joanne Jang, responsable du modèle OpenAI, qui a travaillé sur le document Model Spec, a souligné à NPR que les utilisateurs ne pourront toujours pas créer quoi que ce soit de potentiellement illégal et que les deepfakes tels que les images de Taylor Swift qui se propagent sur X ne seront définitivement pas autorisés. – Microsoft a apporté des modifications à son outil de conversion texte-image Designer après que des contrefaçons explicites du chanteur soient apparues sur Internet.
« Nous voulons garantir que les personnes ont un contrôle maximum dans la mesure où cela ne viole pas la loi ou les droits d’autrui, mais autoriser les deepfakes est hors de question, point final », a déclaré Jang. « Cela ne veut pas dire que nous essayons maintenant de créer du porno IA. »
Jang a ajouté qu’OpenAI souhaitait entamer une conversation sur la question de savoir si les textes érotiques et les images nues devraient toujours être bannis de ses produits d’IA.
Lorsqu’on lui a demandé si les utilisateurs d’OpenAI pourraient un jour créer des images considérées comme du porno généré par l’IA, Jang a répondu : « Cela dépend de votre définition du porno. Tant qu’elle n’inclut pas les deepfakes. Ce sont exactement les conversations que nous voulons avoir. »
Nous avons vu de nombreux exemples de personnes contournant les filtres de sécurité et les limitations imposées aux services d’IA générative, y compris les récentes attaques contradictoires. La crainte est qu’en affaiblissant les filtres de ses produits, OpenAI rende encore plus facile la création de deepfakes et de hardware illégal.
Les testeurs affirment que le fait qu’OpenAI envisage même de s’engager dans cette voie tourne en dérision son énoncé de mission consistant à produire une IA sûre et bénéfique. Renee DiResta, responsable de recherche à l’Observatoire Internet de Stanford, a avancé un point de vue différent, déclarant à NPR qu’OpenAI proposant de la pornographie légale est une meilleure alternative que les personnes utilisant des modèles open source sommaires qui pourraient créer du contenu illégal.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
