Un nouvel outil d’intelligence artificielle permet de générer des images de personnes dénudées en quelques clics, posant de graves questions éthiques. Les conséquences de son utilisation sont inquiétantes, entraînant des abus, notamment sur des mineurs. Un examen approfondi révèle que ces technologies ont des effets perturbateurs sur la société.
Un simple prompt suffit pour prendre le contrôle du corps de quiconque. Des requêtes telles que “spogliala, fammela vedere nuda, mettile un perizoma” illustrent l’utilisation préoccupante de Grok, une intelligence artificielle conçue par X.AI, une société d’Elon Musk. Les résultats, accessibles facilement, incluent une multitude d’images dénudées, de femmes en bikini et d’images explicites. D’autres IA, comme Gemini, ont également généré sans difficulté telles que des images érotiques. Plusieurs tests ont été réalisés pour examiner cette situation.
Le test qui révèle les failles majeures de Grok
Pour mieux comprendre le fonctionnement de Grok, nous avons effectué des tests avec Grok, Gemini Pro et ChatGPT Go. Le modèle d’OpenAI a bloqué les demandes, contrairement à Grok et Gemini qui ont créé des contenus inappropriés sans difficulté. Grok s’illustre particulièrement pour sa capacité à générer des contenus sexuellement explicites. Voilà pourquoi il est tant utilisé.
Grok, étant un modèle multimodal, permet des réponses textuelles et la génération d’images à partir d’une photo ou d’un prompt. Récemment, les requêtes « Grok, mettila i bikini » ont été employées pour manipuler le corps de n’importe qui. Des images de femmes, de jeunes filles soumises et d’autres contenus inappropriés sont apparues. Selon Copyleaks, un service de détection d’IA, Grok aurait généré au moins une image sexuelle par minute durant une période de forte demande. De plus, la Internet Watch Foundation a trouvé des images explicites mettant en scène des mineurs entre 11 et 13 ans générées par Grok.
Les entreprises IA se tournent vers l’érotisme
Ce phénomène n’est pas récent. Avec l’essor de l’intelligence artificielle générative, une multitude de sites web, d’applications et de bots permettant de créer des images indésirables ont vu le jour. Toutefois, ils n’étaient pas aussi connus que Grok ou Gemini. Initialement, ces sites étaient difficiles à trouver sur Telegram, offrant un léger rempart contre ces abus. Aujourd’hui, produire des deepfake est plus simple que jamais. C’est à la portée de toutes et tous.
Se pose alors une question importante : pourquoi les entreprises laissent-elles les chatbots générer des images érotiques ? L’analyse de la situation montre que de nombreuses entreprises travaillent à des versions orientées vers l’érotisme de leurs modèles de chatbot. Des exemples comme la modalité spicy de Grok lancée en août ou les chats pour adultes sur ChatGPT en témoignent.
Les aspects sexuels rendent ces modèles plus attrayants et profitables. Le marché des applications nudify, capables de retirer des vêtements d’images ou de vidéos, prospère. Une source anonyme de Clothoff a révélé à Der Spiegel que l’entreprise prévoit d’investir 150.000 euros par pays pour des campagnes en Europe.
La tension mondiale sur Grok : enquêtes, blocages et échecs des filtres
En réponse aux critiques, xAI et X ont annoncé des mesures pour restreindre la génération d’images explicites. « Nous avons mis en place des mesures pour empêcher que l’account Grok applique des modifications d’images de personnes réelles en tenues légères comme des bikinis. Cette restriction concerne tous les utilisateurs, y compris les abonnés payants. » Cependant, les protections sont souvent contournées par des requêtes indirectes ou des reformulations.
Divers pays répondent avec des mesures plus strictes : Malaise et Indonésie ont temporairement bloqué l’accès à Grok, tandis que l’Ofcom, l’autorité britannique de régulation des médias, a ouvert une enquête sur X au titre de l’Online Safety Act pour vérifier d’éventuelles violations. La Commission Européenne, quant à elle, a ordonné la conservation des documents internes concernant les fonctions bikini de Grok pour une enquête relative au Digital Services Act.
D’un monde numérique à une réalité : le coût humain des deepfakes non consensuels
Pour ceux qui subissent ces manipulations, le problème échappe au simple acte de création d’images ; il réside dans leur persistance. Ces images circulent, sont sauvegardées, partagées. Une fois en ligne, les supprimer complètement devient pratiquement impossible. Ces images peuvent causer des traumas psychologiques et des sentiments de honte, de peur et d’humiliation, comme l’a souligné Emma Pickering, experte en abus technologiques au sein de Refuge, la plus grande organisation britannique contre la violence domestique, dans Wired USA.
Tant que les plateformes considéreront ces outils comme de simples expérimentations ludiques, sans assumer la responsabilité de leurs conséquences, le risque est grand que la violence numérique soit normalisée.