Grok, le chatbot IA soutenu par Elon Musk intégré à X, a commencé à restreindre ses outils de génération et d’édition d’images aux abonnés payants. Ce changement fait suite à une vague de critiques concernant la capacité de l’outil à produire des images sexualisées non consenties. Bien que cette restriction soit clairement une tentative de réduire la controverse, les régulateurs, les groupes de défense et les utilisateurs soutiennent que cela n’empêche guère la création de contenus nocifs et potentiellement illégaux impliquant des femmes et des enfants.
À partir de jeudi soir, Grok a officiellement placé ses fonctionnalités de création d’images derrière le mur payant X Premium, qui commence à 8€ par mois
Cependant, cette décision a été largement moquée comme une solution « perdante ». Bien que les utilisateurs occasionnels sur X puissent être bloqués, les outils de génération restent entièrement accessibles via le site web autonome de Grok et son application mobile. Cette faille contredit effectivement la revendication de la plateforme selon laquelle elle prend une position ferme contre l’abus, laissant les outils les plus dangereux toujours à la portée du grand public.
Les chercheurs en sécurité et les observateurs numériques ne sont pas convaincus qu’une exigence de carte de crédit résolve le problème. En réalité, beaucoup soutiennent que cela monétise réellement l’abus. Selon la chercheuse sur les deepfakes Genevieve Oh, Grok continuait de générer plus de 1 500 images nuisibles par heure même après l’activation du mur payant, représentant environ 60% de sa production d’images publiques totale. Les données d’Oh suggèrent que Grok génère actuellement du contenu sexualisé à un rythme qui surpasse même les sites « nudify » les plus notoires.
Les conséquences ont atteint les plus hauts niveaux du gouvernement américain
Les sénateurs démocrates Ron Wyden, Edward J. Markey et Ben Ray Luján ont récemment adressé une lettre aux PDG d’Apple et de Google, exigeant que X soit retiré de leurs boutiques d’applications respectives. Selon les sénateurs, en permettant la persistance de ces outils, X montre un « mépris total » pour les règles de sécurité que tous les autres développeurs d’applications doivent respecter.
La pression internationale atteint également un point critique. Des responsables britanniques et indiens ont qualifié le mur payant de réponse inadéquate. Un porte-parole du premier ministre britannique a décrit cette décision comme « insultante » pour les victimes, suggérant que X transforme simplement une crise de sécurité en une source de revenus premium. Les victimes ont partagé des histoires similaires ; la militante Jess Davies a rapporté que Grok a réussi à « déshabiller » numériquement une photo d’elle via son application autonome vendredi matin, malgré les restrictions supposées.
Étonnamment, la controverse semble donner un coup financier pervers à la plateforme
Les estimations de Sensor Tower montrent que les revenus des achats in-app mobiles sur X ont bondi de 18% rien que jeudi. Cette augmentation dépasse de loin la croissance quotidienne typique de l’application, suggérant que l’envie d’accéder au « mode épicé » de Grok pourrait en réalité aider le bilan financier en difficulté de X.
Des experts juridiques avertissent que ces mesures insuffisantes ne tiendront pas longtemps devant un tribunal. Le procureur général de Caroline du Nord, Jeff Jackson, a qualifié la situation de Grok de « point tournant » pour la sécurité de l’IA, notant à quel point ces systèmes peuvent être facilement armés. Il a soutenu que l’époque de « bouger vite et casser des choses » touche à sa fin lorsque cela concerne la dignité et la sécurité des citoyens.
Alors que la pression s’intensifie, X se retrouve face à un choix crucial : mettre en place de véritables protections techniques solides ou faire face à un blackout total dans les grandes boutiques d’applications et sur les marchés internationaux. La décision qu’Elon Musk prendra pour renforcer le logiciel lui-même, plutôt que simplement l’accès à celui-ci, déterminera si Grok a un avenir en tant qu’outil légitime ou s’il devient un paria de l’ère de l’IA générative.