OpenAI a récemment révélé avoir bloqué plus de 20 opérations malveillantes et réseaux frauduleux à travers le monde en 2024, soulevant des préoccupations quant à l’intensification des menaces. L’entreprise s’engage à surveiller et à stopper les abus tout en protégeant l’intégrité des communications, particulièrement crucial en année électorale.
OpenAI, à l’origine de la célèbre solution d’IA générative ChatGPT, a publié un rapport indiquant avoir bloqué plus de 20 opérations et réseaux malhonnêtes à travers le monde en 2024. Ces opérations variaient en objectifs, en échelle et en ciblage, permettant la création de logiciels malveillants ainsi que la rédaction de faux articles médiatiques, de fausses biographies et de contenus de sites web.
OpenAI confirme avoir analysé les activités qu’elle a stoppées et fourni des informations clés issues de cette analyse. “Les acteurs de la menace continuent d’évoluer et d’expérimenter avec nos modèles, mais nous n’avons pas constaté de preuves indiquant que cela mène à des percées significatives dans leur capacité à créer de nouveaux logiciels malveillants ou à construire des audiences virales,” précise le rapport.
Ceci est d’autant plus important en raison de l’année électorale dans plusieurs pays, dont les États-Unis, le Rwanda, l’Inde et l’Union européenne. Par exemple, début juillet, OpenAI a interdit plusieurs comptes qui généraient des commentaires sur les élections au Rwanda, publiés par divers comptes sur X (anciennement Twitter). Il est rassurant d’apprendre qu’OpenAI affirme que les acteurs de la menace n’ont pas réussi à faire de réelles avancées dans leurs campagnes.
Un autre succès pour OpenAI a été de perturber un acteur de la menace basé en Chine, connu sous le nom de “SweetSpecter”, qui a tenté de phishing ciblé les adresses professionnelles et personnelles des employés d’OpenAI. Le rapport mentionne également qu’en août, Microsoft a révélé un ensemble de domaines qu’ils attribuaient à une opération secrète d’influence iranienne connue sous le nom de “STORM-2035.” “Sur la base de leur rapport, nous avons enquêté, perturbé et signalé un ensemble d’activités associées sur ChatGPT.”
OpenAI indique aussi que les publications sur les réseaux sociaux générées par leurs modèles n’ont pas suscité beaucoup d’attention, ayant reçu peu ou pas de commentaires, de mentions « j’aime » ou de partages. OpenAI s’assure qu’elle continuera d’anticiper les manières dont les acteurs de la menace utilisent des modèles avancés à des fins nuisibles et prévoit de prendre les mesures nécessaires pour y mettre un terme.