Thomas
Au cours des derniers mois, il y a eu beaucoup de discussions sur le nouveau chatbot, ChatGPT. Dans de nombreux cas, les rapports sur ChatGPT d’OpenAI sont généralement positifs. Cet outil a passé la majorité des tests auxquels il a été soumis. Il n’y a presque aucun défaut avec cet outil d’IA. Cependant, lorsque la technologie est entièrement positive, c’est une source de préoccupation. Dans un récent article d’opinion d’Anna Collard, de SVP Content Strategy and Evangelist chez KnowBe4Africa, ChatGPT peut constituer une menace derrière toute la positivité.
ChatGPT est un chatbot qui écrit du texte et des dialogues en utilisant des méthodes d’apprentissage en profondeur (deep learning). Dans de nombreux cas, il est très difficile de faire la différence entre un texte d’une personne réelle et celui de ChatGPT. Il est désormais possible de créer une chaîne d’infection complète à l’aide d’un chatbot d’IA accessible au public, en commençant potentiellement par un e-mail de harponnage écrit dans un langage humain convaincant.
Un e-mail frauduleux aussi convaincant a récemment été envoyé par les chercheurs de Checkpoint à titre de test. Ils n’ont utilisé que ChatGPT, un chatbot qui crée du texte et des interactions qui peuvent persuader à peu près n’importe qui qu’ils ont été écrits par une personne réelle en utilisant des techniques d’apprentissage en profondeur (deep learning). Cependant, cette technologie étonnante créée par OpenAI et actuellement accessible en ligne gratuitement contient un certain nombre de risques potentiels de cybersécurité.
Risques potentiels de cybersécurité de ChatGPT
- Ingénierie sociale : avec l’aide du modèle de langage puissant de ChatGPT, les attaquants peuvent plus facilement contraindre les victimes à divulguer des informations privées ou à installer des logiciels malveillants en créant des messages de phishing réalistes et persuasifs.
- Arnaque : les pirates peuvent générer du texte via les modèles de langage de ChatGPT pour produire de fausses publicités et d’autres types de matériel d’arnaque. Cela rendra tout super facile pour les attaquants.
- Arnaque : les attaquants peuvent imiter leur cible dans des contextes textuels, tels qu’un e-mail ou un SMs, en utilisant ChatGPT pour créer une copie numérique plausible de leur style d’écriture.
- Automatisation des attaques : les attaquants peuvent lancer plus efficacement des attaques à grande échelle en utilisant ChatGPT pour automatiser la création de messages malveillants et d’e-mails de phishing.
- Spamming : Le modèle de langue peut être ajusté pour créer rapidement beaucoup de contenu de mauvaise qualité. Ce contenu peut être utilisé de diverses manières, telles que des campagnes de spam ou des remarques sur les réseaux sociaux.
Les menaces ChatGPT sont réelles
Les problèmes répertoriés ci-dessus ne sont que les cinq principales menaces possibles posées par ChatGPT. Tous les problèmes ci-dessus sont de véritables dangers pour les entreprises et tous les internautes. Ces problèmes ne feront que se propager à mesure qu’OpenAI continuera à développer sa stratégie. Si vous pensez que la liste ci-dessus est convaincante, alors ChatGPT fait un excellent travail. En effet, tous les points ci-dessus ont été écrits avec ChatGPT avec quelques modifications bien sûr. L’outil est si puissant qu’il peut clairement définir et articuler ses propres risques de piratage interne.
Actualité mobile (sous-titrée) de notre partenaire de la semaine
Cependant, il existe des mesures de sécurité que les particuliers et les entreprises peuvent prendre pour atténuer le risque du chatbot IA. Cela ne peut être fait que par du personnel connaissant la sécurité moderne. Le rythme de la cybercriminalité est exceptionnel. Les cybercriminels se spécialisaient il y a quelques années dans l’usurpation d’identité, mais aujourd’hui, ils s’emparent du réseau de votre entreprise, s’introduisent dans vos comptes bancaires et pillent des dizaines de milliers, voire des centaines de milliers de dollars. Même si ChatGPT, une plate-forme intelligente, a peut-être été construite avec les meilleures intentions, elle ne fait qu’augmenter le devoir des internautes d’être toujours vigilants, de faire confiance à leur intuition et d’être conscients des risques associés au fait de suivre un lien ou d’ouvrir un déposer.
Dans une requête ChatGPT avec la question « Quels sont les risques de piratage de ChatGPT », des parties de la réponse du chatbot lisent
« Pour atténuer ces risques, les développeurs de ChatGPT devraient prendre des mesures pour assurer la sécurité des données utilisées pour former et exploiter le modèle. Ils doivent également mettre en œuvre des mesures pour détecter et prévenir les entrées ou attaques malveillantes. Il est également bon de surveiller et de mettre à jour régulièrement les fonctions de sécurité du modèle ».
ChatGPT va changer le monde – Bill Gates
Dans un autre rapport, le milliardaire américain Bill Gates estime que ChatGPT va « changer le monde ». Bill Gates, co-fondateur de Microsoft, aurait décrit ChatGPT comme un chatbot capable de répondre aux requêtes des clients, selon Reuters. Gates a fait cette déclaration dans une interview rendue publique vendredi par le quotidien économique allemand Handelsblatt. Il poursuit en disant que c’est un gros problème lorsque les réponses semblent provenir de personnes. Il compare même l’avancement à la croissance d’Internet en termes d’importance.
« Jusqu’à présent, l’IA peut lire et écrire, mais ne peut pas comprendre le contenu. De nouveaux programmes comme ChatGPT amélioreront l’efficacité de nombreuses tâches de bureau en aidant à rédiger des factures ou des e-mails. Cela va changer notre monde », a-t-il déclaré dans un commentaire.
Microsoft a mis à jour son navigateur Edge et son moteur de recherche Bing avec la technologie ChatGPT d’OpenAI. Selon la société, utiliser cette technologie tout en effectuant des recherches sur le Web, c’est comme avoir un assistant d’étude, un planificateur personnel et un partenaire créatif. Sans aucun doute, la façon dont certaines choses fonctionnent changera considérablement à la suite de ce nouvel outil d’IA. Cependant, certains universitaires et entreprises technologiques ne sont pas satisfaits des effets actuels de ChatGPT.
Dans les universités, cela aide les étudiants à tricher et de nombreuses universités, en particulier aux États-Unis, ne sont pas satisfaites. Cependant, une startup israélienne prétend avoir un outil capable de détecter le texte de ChatGPT. OpenAI, le développeur de ChatGPT travaille également sur un outil similaire.