Il s’agit d’un engagement ferme de la part de Microsoft et de OpenAI pour améliorer la sécurité de l’entreprise
OpenAI et Microsoft ont été visiblement alarmés de constater que leur logiciel d’IA est utilisé par des pirates informatiques de gouvernements rivaux des États-Unis pour créer différentes attaques. Comme nous l’avons vu la semaine dernière, différents pirates gouvernementaux redirigent leurs efforts vers la perfection des attaques cybernétiques en utilisant l’IA comme principal support. Maintenant, ils ont également expliqué les mesures qu’ils vont prendre pour arrêter ces mauvais acteurs avant qu’ils ne se propagent.
Offensive contre les pirates informatiques par OpenAI et Microsoft
Dans un article sur leur blog, OpenAI a rapporté comment les pirates associés à différents gouvernements ont tenté d’accéder à leur plateforme pour en faire une utilisation intensive. Généralement, dans des buts divers, mais principalement dans le but d’améliorer considérablement leur productivité. La première chose qu’a fait OpenAI pour les arrêter a été d’annuler leurs comptes, mais la question ne s’est pas arrêtée là.
L’équipe a souligné que pour essayer d’arrêter ce type d’activités, différentes mesures sont nécessaires pour protéger l’application contre une utilisation dangereuse. La première d’entre elles repose sur un axe très clair : la surveillance de ces acteurs malveillants, comme ils les appellent.
En maintenant ces utilisateurs identifiés, il sera possible de prendre les mesures appropriées à leur encontre. En réalité, cela est étroitement lié aux recherches qu’ils ont menées pour éviter ces mauvaises pratiques.
Pour pouvoir arrêter ces pratiques et améliorer la sécurité de la plateforme, il est strictement nécessaire d’apprendre des mauvais usages de ces individus. Il est nécessaire de confronter l’IA à des situations complexes afin de comprendre comment atténuer ces failles de sécurité et les perfectionner.
Pour cela, il est également nécessaire de travailler avec d’autres entreprises qui utilisent l’écosystème de l’IA pour résoudre ces problèmes et, surtout, les localiser.
Cependant, le point le plus important est celui de la transparence. OpenAI et Microsoft mènent des études constantes qu’ils publient ouvertement pour que l’on puisse comprendre leurs façons de travailler et de faire face à ces problèmes. En réalité, récemment, ils ont mené une étude pour vérifier s’il était possible de fabriquer des armes biologiques avec ChatGPT.
Les principales préoccupations concernant l’IA confirmées
Bien que cela puisse sembler anodin pour les utilisateurs moyens, l’IA représente un risque pour les démocraties en 2024, l’année qui compte le plus grand nombre d’élections démocratiques de l’histoire, c’est également une année où un nouvel acteur s’est imposé comme protagoniste de la plupart des gros titres : l’IA.
Cela a conduit certaines personnalités importantes, comme le petit-fils d’Oppenheimer, à attirer l’attention sur le danger que peut représenter le développement de ce type de technologies avant d’en vérifier les effets sur la société. Mais il n’est pas le seul, car Bill Gates a comparé l’IA à la bombe atomique, précisément dans l’aspect important où elle peut être utilisée pour créer des armes, aussi bien numériques que physiques.
En résumé :
- Différentes équipes de pirates informatiques travaillant pour des pays tels que la Russie, la Chine ou l’Iran ont utilisé ChatGPT pour la création de leurs cyberattaques
- C’est la première fois que l’on constate que des pirates affiliés à différents gouvernements utilisent l’IA pour leurs attaques.
- Ils utilisent l’IA pour des tâches quotidiennes, pas pour générer les attaques, ce qui témoigne de la sécurité de l’IA.
- Il est nécessaire de surveiller les activités de ChatGPT et de travailler avec d’autres entreprises de l’industrie pour atténuer les problèmes de sécurité.
- La transparence joue un rôle clé dans tout cela.
- L’une des plus grandes préoccupations suscitées par l’IA est, précisément, qu’elle tombe entre de mauvaises mains.
- Les groupes utilisaient ces technologies pour des campagnes de phishing ou pour traduire des articles scientifiques qui pourraient être utiles pour les attaques.
- Les comptes de ces utilisateurs ont été résolument annulés.