Des utilisateurs malintentionnés exploitent les capacités de ChatGPT pour créer des outils de surveillance, défiant les politiques d’OpenAI. En Chine, des comptes se sont regroupés pour développer des stratégies de surveillance, mettant en lumière les enjeux éthiques liés à l’utilisation de l’intelligence artificielle, tout en suscitant des préoccupations sur la privacy.
Doh! Il est prouvé que chaque fois que vous publiez quelque chose sur le Web, certaines personnes – généralement beaucoup – en abusent. Il n’est donc probablement pas surprenant que des individus détournent ChatGPT d’une manière contraire aux politiques d’OpenAI et aux lois sur la privacy. Les développeurs ont du mal à tout détecter, mais ils appliquent leur interdiction lorsqu’ils le font.
OpenAI a récemment publié un rapport mettant en lumière certaines tentatives de mauvaise utilisation de son service ChatGPT. Les développeurs ont intercepté des utilisateurs en Chine exploitant les capacités de raisonnement de ChatGPT pour créer un outil de surveillance des réseaux sociaux. Ils ont demandé au chatbot de les conseiller sur la création d’une stratégie commerciale et de vérifier le code de l’outil.
OpenAI a souligné que sa mission est de construire des modèles d’IA « démocratiques », une technologie qui doit bénéficier à tous en appliquant des règles de bon sens. L’entreprise a activement recherché des mauvaises utilisations ou des perturbations par divers acteurs et a décrit quelques-uns provenant de Chine.
Le cas le plus intéressant implique un lot de comptes ChatGPT axés sur le développement d’un outil de surveillance. Les comptes ont utilisé le modèle d’IA de ChatGPT pour générer des descriptions détaillées et des argumentaires de vente pour un outil d’écoute des réseaux sociaux.
Le logiciel, alimenté par des modèles non-OpenAI, générerait des rapports en temps réel concernant les manifestations occidentales et les enverrait aux services de sécurité chinois. Les utilisateurs ont également utilisé ChatGPT pour déboguer le code de l’outil. La politique d’OpenAI interdit explicitement l’utilisation de sa technologie d’IA pour effectuer des tâches de surveillance, y compris le monitoring non autorisé au nom des gouvernements et des régimes autoritaires. Les développeurs ont banni ces comptes pour avoir ignoré les règles de la plateforme.
Les acteurs chinois ont tenté de dissimuler leur emplacement en utilisant un VPN. Ils ont également utilisé des outils d’accès à distance tels que AnyDesk et VoIP pour donner l’impression de travailler depuis les États-Unis. Cependant, les comptes suivaient un modèle temporel cohérent avec les heures de travail en Chine. Les utilisateurs ont également incité ChatGPT à utiliser le chinois. L’outil de surveillance qu’ils développaient utilisait les modèles d’IA Llama de Meta pour générer des documents basés sur la surveillance.
Une autre instance d’abus de ChatGPT impliquait des utilisateurs chinois générant des rapports de performance de fin d’année pour des campagnes de phishing. OpenAI a également banni un compte qui a utilisé le LLM dans une campagne de désinformation contre Cai Xia, un dissident chinois vivant actuellement aux États-Unis.
L’enquêteur en Intelligence des Menaces d’OpenAI, Ben Nimmo, a déclaré au New York Times que c’était la première fois que l’entreprise repérait des personnes tentant d’exploiter ChatGPT pour créer un outil de surveillance basé sur l’IA. Cependant, avec des millions d’utilisateurs utilisant principalement l’outil à des fins légitimes, l’activité criminelle cyber est l’exception, et non la norme.