L’Inde impose à X, la plateforme d’Elon Musk, d’agir rapidement face à son assistant Grok, soupçonné de générer des contenus jugés illégaux. Les conséquences pourraient être sévères, menaçant la protection légale de la plateforme et son avenir sur le marché.
Un chatbot qui produit des images controversées, un gouvernement qui monte au créneau, et l’une des plateformes les plus surveillées au monde sous pression. L’Inde a ordonné à X, le réseau social d’Elon Musk, d’intervenir rapidement concernant son assistant d’intelligence artificielle Grok, accusé d’avoir généré des contenus jugés obscènes et illégaux, notamment des images à caractère sexuel.
Le Ministère de l’Électronique et des Technologies de l’Information (MeitY) a notifié à X un avertissement formel imposant des modifications techniques et procédurales immédiates au fonctionnement de Grok. L’objectif est de prévenir la création et la diffusion de contenus illégaux conformément à la législation indienne.
Un ultimatum de 72 heures
Le document gouvernemental accorde à la plateforme 72 heures pour fournir un “rapport d’actions entreprises”, un document détaillant les mesures mises en place pour éviter la circulation de contenus jugés “obscènes, pornographiques, vulgaires, indécents, sexuellement explicites ou pédopornographiques”. En cas de non-conformité, X risque de perdre le “safe harbor”, cette protection légale en Inde et ailleurs qui limite la responsabilité des plateformes pour les contenus publiés par les utilisateurs.
La perte de cette immunité serait un coup dur : cela exposerait l’entreprise et ses dirigeants à des actions civiles et pénales pour des violations survenues sur la plateforme.
Les signalements et la réaction politique
L’intervention du gouvernement a été déclenchée par de nombreux signalements d’utilisateurs montrant les contenus générés par Grok, notamment des images de femmes nues créées par IA. La situation a pris une tournure politique lorsque la parlementaire Priyanka Chaturvedi a déposé une plainte officielle, réclamant une action immédiate des autorités.
Peu après, des rapports plus graves ont émergé : des images explicites de mineurs ont également été générées. X a reconnu publiquement ce problème, le reliant à des failles dans les systèmes de sécurité de Grok, et a supprimé ces contenus.
Un renforcement annoncé
L’ordre donné à Grok arrive à un moment crucial. Quelques jours auparavant, le Ministère de l’IT avait diffusé une directive générale pour toutes les plateformes sociales, rappelant que le respect des lois indiennes sur l’obscénité et les contenus explicites est impératif pour conserver les protections légales. Le message est clair : renforcer les contrôles internes ou faire face à des conséquences légales sévères, sans préavis supplémentaire.
Dans un communiqué, le gouvernement a également mis en garde que le non-respect pourrait entraîner des actions légales non seulement contre la plateforme, mais aussi à l’encontre des dirigeants responsables et des utilisateurs qui enfreignent la loi.
L’Inde en tant que test mondial
Avec plus de 800 millions d’internautes, l’Inde est aujourd’hui l’un des plus grands et des plus stratégiques marchés numériques au monde. Un durcissement de l’application des règles indiennes pourrait avoir des effets en cascade, influençant les politiques de modération et de conformité des grandes entreprises technologiques dans d’autres pays.
Pour l’instant, ni X ni xAI, la société d’Elon Musk responsable du développement de Grok, n’ont fait de commentaires officiels sur l’ordre du gouvernement indien. Mais le message de New Delhi est clair : dans un contexte d’intelligence artificielle générative, l’innovation doit s’accompagner d’une responsabilité légale et sociale. Les opérateurs en Inde devront s’adapter rapidement.