L’IA Grok d’Elon Musk dévoile le Far West de la génération d’images sur X

Elon Musk

L’émergence de Grok, le chatbot d’Elon Musk, soulève des questions cruciales concernant la responsabilité et l’impact des images générées par l’IA sur notre perception de la vérité. Les inquiétudes autour de la désinformation, notamment en période électorale, rendent le débat sur les protocoles de sécurité encore plus pertinent.

Le point de vue de l’éditeur : Il n’a pas fallu longtemps pour que les utilisateurs génèrent des images controversées à l’aide de Grok, déclenchant un débat dans les médias sur la manière dont ces images générées par l’IA pourraient influencer la perception publique des politiciens ou des célébrités. Compte tenu du risque que la désinformation ait un impact sur les élections, il est légitime de s’interroger sur la responsabilité des développeurs et des plateformes dans la garantie de l’intégrité des informations partagées sur leurs réseaux. De plus, cette première vague d’images pourrait finir par servir d’avertissement si elle est utilisée pour façonner les futures réglementations ou directives relatives aux outils de création de contenu IA.

En grande pompe et accompagné de grandes démonstrations d’imagination, le chatbot IA Grok d’Elon Musk a commencé à permettre aux utilisateurs de créer des images générées par l’IA à partir d’invites de texte et de les publier sur X.

Grok, développé par xAI, l’entreprise d’Elon Musk, est alimenté par le modèle d’IA Flux 1 de Black Forest Labs et est actuellement disponible pour les abonnés Premium et Premium Plus de X. Black Forest Labs, une startup d’images et de vidéos IA lancée le 1er août, semble adhérer à la même école de pensée qui alimente la vision d’Elon Musk pour Grok en tant que « chatbot anti-woke ».

Les utilisateurs ont rapidement profité des fonctionnalités de Grok pour créer et diffuser de fausses images de personnalités politiques et de célébrités, les plaçant souvent dans des scénarios dérangeants ou controversés.

Cette prolifération rapide de contenus potentiellement trompeurs a suscité de vives inquiétudes, notamment à l’approche de l’élection présidentielle américaine. Contrairement à d’autres outils de génération d’images par l’IA, Grok semble manquer de mesures de protection ou de restrictions complètes, ce qui a suscité des craintes quant à la propagation potentielle de fausses informations.

En revanche, d’autres grandes entreprises technologiques ont mis en œuvre des mesures pour limiter l’utilisation abusive de leurs outils d’IA. Par exemple, OpenAI, Meta et Microsoft ont développé des technologies ou des étiquettes permettant d’identifier les images générées par l’IA. Par ailleurs, des plateformes comme YouTube et Instagram ont pris des mesures pour étiqueter ce type de contenu. Bien que X ait une politique contre le partage de médias manipulés trompeurs, son application reste floue.

Bien que Grok prétende avoir certaines limitations, comme le refus de générer des images de nus, ces restrictions semblent être appliquées de manière incohérente. D’autres expériences menées par des utilisateurs sur X ont montré que les limitations de Grok peuvent être facilement contournées, ce qui conduit à la création de contenu hautement inapproprié et explicite.

Malgré ses prétendues garanties contre la production d’images violentes ou pornographiques, les utilisateurs ont réussi à générer des images dérangeantes, notamment des représentations d’Elon Musk et de Mickey Mouse impliqués dans des actes violents, ou du contenu qui pourrait être considéré comme de l’exploitation d’enfants lorsqu’il est manipulé avec des invites spécifiques.

Il est difficile d’imaginer comment cela pourrait fonctionner avec d’autres outils de génération d’images par l’IA, dont beaucoup ont été critiqués pour leurs diverses lacunes. Le chatbot Gemini de Google a cessé d’utiliser cette fonctionnalité après avoir reçu des tests pour avoir créé des représentations racialement inexactes. De même, le générateur d’images par l’IA de Meta a dû faire face à des réactions négatives en raison de difficultés à produire des images de couples ou d’amis d’origines raciales diverses. Et TikTok a dû supprimer un outil vidéo par l’IA après qu’il a été révélé que les utilisateurs pouvaient créer des vidéos réalistes d’individus faisant des déclarations, y compris de fausses déclarations sur les vaccins, sans aucune étiquette d’identification.

Cependant, Elon Musk, qui a été critiqué pour avoir diffusé des fausses informations liées aux élections sur X, ne devrait pas hésiter à prendre des mesures similaires. Il a loué Grok comme « l’IA la plus amusante du monde », soulignant sa nature non censurée.