La récente arrivée de la Spicy Mode sur Grok, l’IA de X, a provoqué des discussions en raison de sa capacité à générer des vidéos explicites. Bien que cette fonctionnalité ait entraîné la création de millions de contenus, son absence de filtres soulève d’importantes préoccupations liées à la sécurité et à l’utilisation abusive des images.
Depuis quelques jours, la Spicy Mode de Grok fait l’objet de nombreux échanges sur X. Cette intelligence artificielle, intégrée au réseau social détenu par Elon Musk, a lancé Imagine, une fonctionnalité capable d’animer de simples photos. Cependant, c’est l’une des quatre options d’animation qui suscite le plus d’attention : la “Spicy”, permettant de créer des vidéos explicites. Des personnalités comme Taylor Swift ont déjà été affectées par cette fonction. Selon Musk, plus de 34 millions de contenus ont vu le jour grâce à cette nouvelle fonctionnalité, qui provoque de vives réactions à cause de son manque de régulations.
D’autres générateurs vidéo, comme Veo 3 de Google ou Sora de OpenAI, disposent de mesures de sécurité afin de prévenir la production et la diffusion de contenus pornographiques créés par intelligence artificielle. En revanche, l’IA de X ne propose aucun outil de filtrage, laissant ainsi les utilisateurs créer des contenus classés NSFW, ou “non sûrs pour le travail.”
Les abus avec des images explicites
Cette tendance s’inscrit dans une problématique croissante d’abus sexuels liés aux images, où des images et vidéos, réelles ou générées par l’IA, sont utilisées pour nuire à autrui. RAINN, principale organisation américaine contre les violences sexuelles, a déjà soulevé cette question, ajoutant que le Take It Down Act a été approuvé en mai. Ce texte oblige les plateformes à éliminer les contenus explicites dans les 48 heures suivant leur publication. Ce cadre semble ignoré par Grok, bien qu’il vise à pénaliser le partage non consensuel d’images intimes, y compris les deepfakes, en imposant leur retrait rapide.
Un autre défi pour la sécurité réside dans l’accessibilité des contenus. Elon Musk a récemment annoncé que pour créer des contenus via la fonction Imagine de Grok, il n’est pas impératif de taper un prompt de texte; un message vocal suffira. Bien que cette option enthousiasme Musk, elle présente également des risques considérables. Le PDG semble optimiste quant aux bénéfices pour les enfants, sans prendre entièrement en compte les dangers potentiels liés à la Spicy Mode.
Pour l’instant, plusieurs utilisateurs ont interpellé Grok pour obtenir des éclaircissements sur l’absence d’un système de sécurité adéquat lors de l’accès à la Spicy Mode. À propos de l’incident concernant Taylor Swift, le chatbot de X a répondu que “la mode Spicy – dans l’une de ses réponses – est soumise à des politiques interdisant les contenus non consensuels : l’accident impliquant Taylor Swift était un bug involontaire qui sera rapidement résolu pour éviter une répétition.”
De plus, il a précisé que “les mesures de protection s’appliquent également aux adultes et interdisent les représentations de mineurs, avec des améliorations progressives visant à combler d’éventuelles lacunes pour garantir une conformité renforcée.” Bien que les affirmations semblent appropriées, un paradoxe demeure : comment une IA capable de produire du contenu explicite peut-elle respecter une politique empêchant la production de contenus non consensuels?