ChatGPT est utilisé par les cybercriminels pour lancer des attaques : Microsoft et OpenAI mettent en garde contre le danger
L’IA ne sert pas seulement à améliorer la vie des utilisateurs ordinaires, elle permet également aux cybercriminels de perfectionner leurs attaques. Microsoft et OpenAI lancent un avertissement : ChatGPT est utilisé pour améliorer les cyberattaques. Le danger est énorme, le perfectionnement de la cybercriminalité peut rendre les utilisateurs vulnérables à tout moment.
C’est grâce à une enquête menée par les deux entreprises qu’il a été possible de découvrir comment différents groupes de cybercriminels ont commencé à utiliser ChatGPT. Aucun nom n’a été donné, mais l’origine de ces groupes de cybercriminels a été évoquée.
ChatGPT est le nouvel outil utilisé par les cybercriminels
C’est ChatGPT qui est utilisé pour ces activités, mais cela pourrait être n’importe quel autre outil. Ce qui est intéressant dans cette situation, c’est l’utilisation de modèles de langue de grande envergure ou LLM à ces fins. Les LLM sont des systèmes d’IA qui génèrent des textes cohérents et convaincants à partir d’une entrée initiale, telle qu’un mot, une phrase ou un paragraphe.
Ces systèmes reposent sur l’apprentissage en profondeur (deep learning) et le traitement du langage naturel, et ils sont entraînés avec d’énormes quantités de données textuelles extraites d’Internet et d’autres sources. Les cybercriminels utilisent les LLM pour perfectionner leurs attaques, tant dans le domaine de la cybersécurité que dans celui de la manipulation de l’information.
Les différents groupes identifiés sont d’origines différentes : Russie, Corée du Nord, Iran et Chine. La situation est grave, avec des groupes comme celui de Russie qui utilisent l’IA pour comprendre les protocoles de communication entre les satellites et les radars.
Ce n’est pas la seule utilisation de l’IA à laquelle ils ont destiné. La collecte, l’interprétation et le traitement de l’information sont également des tâches qui sont optimisées grâce à l’aide de l’IA. L’intention principale derrière cela est de rendre les attaques de plus en plus efficaces, et donc d’augmenter le nombre de victimes.
Microsoft et OpenAI exhortent les utilisateurs, les développeurs et les décideurs politiques à rester vigilants et à prendre des mesures pour prévenir et atténuer les risques associés à un usage abusif de l’IA. En même temps, ils s’engagent à continuer de travailler pour améliorer la sécurité et l’éthique de leurs modèles, ainsi que pour exploiter le potentiel de l’IA afin de protéger et d’autonomiser les individus et les organisations.
Parmi les projets en cours pour mettre fin à l’utilisation ou empêcher que l’IA ne devienne un problème, il y a le développement de Security Copilot. Ce nouvel assistant d’IA est destiné à devenir le bras droit des professionnels de la cybersécurité, leur permettant d’identifier et de contrer ces attaques.