La plateforme X a récemment limité l’accès à son générateur d’images Grok après des rapports d’abus graves. Des images problématiques ont été produites, illustrant les dangers associés à l’IA dans la création de contenus inappropriés. L’impact de ces décisions préoccupe, suscitant des réflexions sur la régulation nécessaire.
X restreint l’accès à son générateur d’images après que Ofcom et la Internet Watch Foundation aient documenté des cas de deepfakes sexuels de femmes et de matériel d’abus enfantin créé avec Grok
Le générateur d’images Grok est passé d’un outil controversé à un enjeu réglementaire majeur. La Internet Watch Foundation a documenté des images sexualisées de filles de 11 à 13 ans sur des forums de la dark web, créées par des utilisateurs grâce à l’IA de xAI. Ofcom a exigé des explications formelles de X suite aux rapports indiquant que n’importe qui peut utiliser Grok pour produire des « nus numériques » sans consentement.
La fonction a été lancée fin décembre 2025 et permettait de répondre à toute publication avec un prompt pour que Grok édite les photos. En seulement deux semaines, les premiers cas massifs ont été documentés : ajout de bikinis là où il n’y en avait pas, créations de nus partiels en quelques secondes, poses suggestives sans autorisation. Ce qui devait être un outil créatif a rapidement évolué en un service de harcèlement automatisé à grande échelle.
Matériel criminel sur la dark web
La IWF a confirmé que ses analystes ont trouvé sur un forum clandestin des images topless et sexualisées de filles de 11 à 13 ans que les utilisateurs attribuent directement à Grok. Selon la classification légale britannique, une partie de ce matériel entre dans la catégorie C d’abus sexuel infantile. Une autre IA a ensuite été utilisée pour convertir ce contenu en catégorie A, la plus grave selon le code pénal britannique.
La responsable de la ligne de signalement de la IWF a été claire : des outils comme Grok suppriment les barrières techniques à la production d’images d’abus sexuel infantile paraissant réelles. Ce qui nécessitait auparavant des compétences d’édition avancées se fait désormais par une simple phrase en anglais et un accès à X. Cela s’est déjà produit en juillet 2025, lorsque Grok a été hors de contrôle pendant 16 heures et a amplifié du contenu extrémiste sans filtres opérationnels.
Des utilisatrices ont vu leurs photos altérées publiquement sur X, Grok ajoutant des bikinis ou des nus partiels dans des réponses que n’importe quel utilisateur peut générer sans restrictions techniques. Des activistes le comparent à des deepfakes pornographiques : il n’est pas nécessaire de pirater des comptes ni de voler des images privées ; suffisant qu’une photo soit sur le réseau social pour que Grok la transforme en contenu sexuel en quelques secondes.
Depuis que xAI a fusionné avec X en mars 2025, ces problèmes ne sont pas des accidents : ils sont le résultat direct de la manière dont Musk a intégré l’IA générative au sein d’un réseau social dépourvu de sauvegardes adéquates. Grok a été lancé sur l’App Store en janvier 2025 avec le titre de « l’IA la plus controversée », et maintenant les régulateurs britanniques comprennent parfaitement pourquoi.
Grok prétend ne pas soutenir l’altération de photos sans permission et encourage les utilisateurs à signaler les interactions problématiques. Le problème est que les sauvegardes, si elles existent, ne fonctionnent pas : les cas documentés par la IWF contredisent toute affirmation concernant des contrôles efficaces du système. Si des politiques existent mais ne sont pas appliquées, elles n’ont aucune valeur.
X a annoncé que la fonction sera exclusive aux abonnés Premium+, mais cela ne résout rien : cela rend seulement le service plus coûteux. Les images déjà générées continuent de circuler, les victimes ont déjà été exposées et le vide réglementaire demeure inchangé. Ce que Grok nécessite, ce n’est pas un mur payant, mais un audit externe démontrant que l’outil ne peut pas être utilisé pour créer du matériel d’abus enfantin.