Les préoccupations croissantes autour de DeepSeek, l’IA chinoise, soulèvent des inquiétudes majeures concernant la sécurité et la confidentialité. Avec des accès bloqués pour les législateurs et d’autres employés gouvernementaux, des tests supplémentaires sur ses réponses controversées sont en cours, suscitant des débats sur son usage dans plusieurs pays.
Les problèmes de confidentialité et de safety continuent de s’accumuler pour la prometteuse IA chinoise DeepSeek. Après avoir vu l’accès bloqué pour les législateurs et les employés fédéraux dans plusieurs pays, tout en soulevant des inquiétudes concernant sa censure et ses safeguards, elle a désormais attiré l’attention d’une agence de renseignement sud-coréenne.
Le Service National de Renseignement (NIS) de ce pays a ciblé la société d’IA en raison de sa collecte excessive et de ses réponses douteuses sur des sujets sensibles à l’héritage coréen, selon Reuters.
« Contrairement à d’autres services d’IA générative, il a été confirmé que les enregistrements de discussion peuvent être transférés, car il inclut une fonction permettant de collecter des modèles de saisie au clavier qui peuvent identifier les individus et communiquer avec les serveurs d’entreprises chinoises comme volceapplog.com », a rapporté l’agence.
Cela fait suite à un avis gouvernemental demandant aux différentes agences et ministères de bloquer l’accès des employés à DeepSeek en raison d’alarms de sécurité. L’Australie et Taïwan ont déjà mis en place de telles restrictions, et d’autres pays devraient emboîter le pas.
Le problème central est que DeepSeek offre apparemment à ses partenaires publicitaires un accès ouvert aux données des utilisateurs, que le gouvernement chinois peut également exploiter, selon les lois locales. Selon The Korea Herald, le chatbot fournissait également des réponses controversées à des questions sur des sujets culturels sensibles et géopolitiques controversés.
Notamment, le chatbot donne des réponses différentes selon que la question est posée en coréen ou en chinois. Selon The Korea Times, l’agence procédera à d’autres tests pour évaluer les aspects de sûreté et de sécurité dans un avenir proche.
Bien que les préoccupations en matière de sécurité aient fait les gros titres en tant que plus grand problème avec DeepSeek, les experts s’inquiètent également des réponses qu’elle peut générer. Dans une analyse de The Wall Street Journal, l’IA a fourni des informations inquiétantes telles que des recettes pour créer des armes biologiques, un manifeste de défense nazie et des encouragements à l’automutilation.
Dans une analyse conduite par le géant de l’IA Anthropic, le PDG Dario Amodei a mentionné que DeepSeek s’est avéré être le
pire modèle d’IA dans leurs tests lorsqu’il s’agissait de générer des informations extrêmement troublantes comme la création d’armes biologiques.
Il y a un peu plus d’une semaine, des chercheurs de Cisco l’ont également testé contre des outils de contournement dans six catégories différentes, et il a échoué à bloquer chaque attaque. Dans un autre test par Qualys, l’IA n’a pu atteindre qu’un taux de réussite de 47% contre les tentatives de contournement.
Ensuite, il y a les préoccupations concernant la fuite de données sensibles et leur partage sans aucune retenue. Des chercheurs en cybersécurité de Wiz ont récemment découvert plus d’un million de lignes d’historique de chat contenant des informations sensibles qui étaient accessibles publiquement.
DeepSeek a corrigé la faille, mais son adoption commerciale demeure un sujet de débat intense. Aux États-Unis, la NASA a déjà interdit à ses employés d’utiliser DeepSeek, tout comme la Marine américaine. De plus, un projet de loi visant à interdire DeepSeek sur les appareils fédéraux est également à l’ordre du jour.