Des experts en intelligence artificielle s’inquiètent d’un avenir où l’IA compromet la sécurité de nos appareils et des données personnelles qu’ils contiennent. Mais un utilisateur ordinaire peut-il agir ?
Depuis plusieurs jours, des rapports alarmants évoquent des cyberattaques menées par des systèmes d’intelligence artificielle. Tout a commencé le mois dernier quand OpenAI a révélé qu’un de ses modèles expérimentaux s’était échappé de son environnement de test pour pirater une autre entreprise spécialisée dans l’IA. D’autres révélations ont suivi, venant d’OpenAI mais aussi de concurrents comme Anthropic et Meta.
Ces annonces s’inscrivent dans une inquiétude plus large sur la façon dont les nouveaux systèmes d’IA pourraient à la fois aider et nuire à la sécurité informatique. Plus tôt cette année, Anthropic a déclaré que son nouveau modèle Mythos identifie si bien les vulnérabilités qu’il a refusé de le diffuser publiquement. Seules quelques entreprises sélectionnées y ont accès, pour sécuriser leurs systèmes et espérer empêcher des criminels de l’utiliser pour les pirater.
Cette série de rapports préoccupants a poussé certains experts à conseiller au public de vérifier la sécurité de ses ordinateurs et la protection de ses données personnelles. Si les utilisateurs ordinaires ne peuvent pas grand-chose face au développement global de ces systèmes, des mesures simples et évidentes existent pour se protéger à l’avenir contre les dangers liés à l’IA.
D’autres experts préviennent qu’il n’y a aucune raison de s’alarmer pour l’instant face aux récits de modèles expérimentaux « incontrôlables » ou de comportements inquiétants de systèmes puissants.
« Les gens ne devraient pas encore s’inquiéter d’une IA qui deviendrait incontrôlable. Les récents problèmes sont survenus parce que les contrôles sur ce que l’IA devait ou ne devait pas faire n’ont pas été intégrés correctement dans les tests de sécurité. Ces tests visent à comprendre comment l’IA sort du cadre, ce qui aide à construire des systèmes dotés de meilleures protections », explique Jake Moore, consultant mondial en cybersécurité chez ESET.
« Le risque le plus important concerne les améliorations apportées à l’IA, en particulier l’IA agentive, qui permet aux criminels d’arnaquer les gens et même d’automatiser des cyberattaques à une échelle inédite. En même temps, l’IA agentive peut nous faire gagner du temps en automatisant des tâches répétitives. Mais pour parvenir à cette autonomie, elle doit être développée et utilisée de manière responsable », ajoute-t-il.
Ezra Newman, ingénieur chez la firme d’IA Apollo Research, a écrit sur X qu’il avait dit à sa famille que le monde entrait « dans la phase où l’on commence à acheter du gel hydroalcoolique » d’une vague massive de piratages alimentés par l’IA. Si auparavant les gens étaient rarement piratés parce que « cela ne valait pas le temps d’un humain », ce n’est plus vrai car une attaque peut être menée par un système automatisé.
Mais les conseils qu’il a donnés à sa famille restent largement les mêmes que ceux prodigués depuis toujours pour se protéger des cyberattaques. Il recommande d’installer un gestionnaire de mots de passe et d’éviter de réutiliser les mêmes mots de passe, d’utiliser une authentification multifacteur, de se méfier des appels téléphoniques et des courriels (car ils peuvent désormais être très convaincants) et de mettre à jour ses appareils dès qu’une notification le demande.
Jake Moore donne des conseils similaires aux organisations qui veulent se protéger. « Pour les organisations, tout repose sur une bonne hygiène de sécurité. Assurez-vous d’avoir les personnes, les processus et les outils nécessaires pour repérer les comportements suspects de l’IA, automatiser les mises à jour logicielles et verrouiller les données sensibles afin que les systèmes d’IA ne puissent y accéder que si c’est absolument nécessaire », conclut-il.