Des acteurs malveillants créent des espaces de travail OpenAI qui usurpent l’identité d’entreprises légitimes et invitent des employés à les rejoindre. Cette manœuvre cherche visiblement à tromper les cibles pour qu’elles soumettent des informations sensibles de leur société dans des conversations et des projets.
La société Push Security a découvert cette campagne, qu’elle surnomme « Poisoned Tenant », après que plusieurs employés ont reçu des invitations pour rejoindre une organisation OpenAI nommée « Push Security Inc. ». L’invitation était authentique et provenait directement des serveurs d’OpenAI, mais l’espace de travail ChatGPT avait été créé par un attaquant qui utilisait une adresse Gmail, et non par l’entreprise elle-même.
Les courriels d’invitation ont été envoyés depuis l’adresse légitime de notification d’OpenAI, noreply@tm.openai.com. Ils ont passé les contrôles d’authentification des e-mails et étaient identiques à une invitation normale pour rejoindre un espace de travail ChatGPT.
Source : Push Security
Push Security a indiqué à BleepingComputer que d’autres clients ont aussi reçu des invitations similaires. Toutes les cibles identifiées évoluent dans le secteur de la cybersécurité ou des technologies.
Des organisations OpenAI contrôlées par des attaquants
Selon un nouveau rapport de Push Security, les invitations ciblaient des employés spécifiques avec leurs adresses e-mail professionnelles. Cela indique que les attaquants ont mené des recherches sur les employés de l’entreprise avant de lancer la campagne.
OpenAI inclut un avertissement qui signale que le domaine de l’adresse e-mail de l’invitant ne correspond pas à celui de l’entreprise du destinataire. Cet avis apparaît cependant sous la forme d’une seule ligne au sein du courriel d’invitation légitime.
Pour mieux comprendre l’objectif de l’attaque, Luke Jennings, vice-président de la recherche et du développement chez Push Security, a accepté l’une des invitations.
Après son acceptation, le chercheur a été immédiatement ajouté à l’organisation frauduleuse, qui usurpait l’identité de Push Security. Elle ne contenait qu’un seul compte contrôlé par l’attaquant, avec une adresse Gmail, qui se faisait passer pour le PDG de l’entreprise, Adam Bateman.
Les employés invités avaient tous reçu des privilèges de Propriétaire au sein de l’organisation, ce qui leur conférait des droits administratifs sur l’espace de travail.
Comme ils disposaient d’un accès administratif, ils ont pu voir les autres invitations en attente et confirmer qu’aucun des employés ciblés n’avait rejoint la fausse organisation ChatGPT. Ils ont également constaté qu’une carte de crédit Visa avait déjà été associée au compte de facturation de l’organisation, ce qui renforçait sa crédibilité.
Source : Push Security
Push Security a déclaré à BleepingComputer que le projet était vide et ne contenait aucune conversation ou projet existant. Le but de l’attaque restait donc peu clair.
Push Security estime que l’objectif des attaquants est de convaincre les employés d’utiliser l’espace de travail ChatGPT comme s’il s’agissait d’une plateforme d’entreprise légitime. Les attaquants pourraient alors collecter toutes les informations sensibles qui y seraient soumises.
Un attaquant qui souhaite seulement diffuser du contenu frauduleux via un canal de messagerie de confiance ne donne pas à l’organisation le nom de sa cible, ne recherche pas des employés individuels et n’associe pas de carte de crédit, a écrit Push. Un tel investissement ne devient rentable que si les employés rejoignent effectivement l’organisation et commencent à l’utiliser. Sur une plateforme d’intelligence artificielle, les données que les gens saisissent dans les invites peuvent être extraordinairement sensibles, comme du code source, des documents internes, des données clients, des recherches en sécurité ou des plans stratégiques.
La société pense également qu’ajouter un moyen de paiement supprime un autre signal d’alerte potentiel. Les utilisateurs invités peuvent ainsi utiliser les fonctionnalités premium sans remettre en question la légitimité de l’organisation.
Push Security affirme que cette campagne reflète une tendance plus large où des attaquants abusent des fonctionnalités légitimes d’invitation et de notification intégrées aux plateformes SaaS.
Contrairement aux campagnes de hameçonnage classiques, ces invitations proviennent de l’infrastructure propre à la plateforme. Comme elles sont légitimes, elles ont plus de chances de contourner les contrôles de sécurité des e-mails.
Pour réduire le risque de ce type d’attaques, Push recommande de former les employés à vérifier les invitations à des organisations inattendues et de surveiller les adhésions aux organisations SaaS.
BleepingComputer a contacté OpenAI pour savoir si la société avait reçu d’autres signalements de campagnes similaires, quelles protections les organisations peuvent utiliser contre ces attaques et si elle prévoit d’introduire des garanties supplémentaires pour empêcher les attaquants de créer des organisations qui usurpent l’identité d’entreprises légitimes. Cet article sera mis à jour en cas de réponse.