Une récente tentative de clonage de l’IA Gemini de Google a été déjouée, impliquant plus de 100 000 requêtes visant à extraire ses logiques de fonctionnement. Ce cas souligne la nécessité croissante de protéger les technologies de pointe face à des attaques procédant d’une exploitation abusive des API.
Google détecte et bloque une attaque massive de plus de 100 000 requêtes tentant de copier le fonctionnement interne de Gemini pour créer des modèles concurrents
Le secteur de l’intelligence artificielle est devenu un véritable champ de bataille. Google a récemment révélé que plusieurs attaquants ont tenté de cloner Gemini en lançant une offensive massive fondée sur des requêtes répétées. L’objectif n’était pas de faire tomber le service, mais d’extraire les schémas de raisonnement internes pour reproduire ses capacités en externe.
Selon Android Headlines, cette campagne de distillation a utilisé plus de 100 000 entrées pour cartographier la façon dont le chatbot réagit à divers styles et thèmes. Cette technique permet à des entreprises ou chercheurs indépendants d’entraîner des modèles concurrents en volant de la propriété intellectuelle sans avoir à pirater des infrastructures complexes, simplement en abusant de l’accès à l’API que Google propose aux développeurs.
L’attaque de distillation : comment ont-ils essayé de voler l’IA de Google ?
Une attaque de distillation a été utilisée pour tenter de cloner Gemini
Pour saisir l’ampleur du problème, il convient de rappeler que la sécurité des services de la société est toujours scrutée. Ce n’est pas la première fois qu’ils font face à une situation critique, comme l’incident de l’année dernière qui a exposé les données de milliards d’utilisateurs de Gmail. Cette fois-ci, le but n’était pas l’utilisateur final, mais le cœur algorithmique responsable du fonctionnement de Gemini.
Ces types d’offensives sont devenus monnaie courante dans le secteur. En effet, il y a quelques mois, OpenAI avait confirmé une faille de sécurité massive exposant des données sensibles, prouvant que les systèmes d’IA sont aujourd’hui des cibles prioritaires. L’intérêt pour le clonage de ces outils s’explique par leur valeur marchande : Gemini approche les 750 millions d’utilisateurs, se consolidant comme un actif stratégique crucial pour Google dans sa compétition commerciale.
Heureusement, les systèmes de surveillance ont détecté un volume inhabituel de requêtes en temps réel et ont bloqué les comptes concernés. Google rappelle que sa propre IA agit également comme un bouclier, une dynamique déjà montrée lorsqu’ils ont découvert la première faille de sécurité grâce à l’intelligence artificielle il y a un peu plus d’un an. C’est une dynamique du chat et de la souris où la technologie est à la fois une arme et une défense.
La société a confirmé qu’aucune violation de données personnelles n’a eu lieu, mais elle a renforcé les protocoles d’accès à ses modèles les plus avancés. Les attaquants ont tenté d’ajuster les langues et types de questions pour forcer le système à exposer sa « chaîne de pensée » interne. De telles pratiques menacent l’avantage concurrentiel des géants technologiques qui investissent des milliards dans la recherche et le développement de réseaux neuronaux.
Le futur du web ne se décidera apparemment pas seulement en fonction de qui propose l’assistant le plus intelligent, mais de qui saura protéger sa logique interne face aux attaques massives. L’utilisation de l’API pour générer des codes malveillants ou des e-mails de phishing fait également partie du rapport sur les menaces de Google. C’est la confirmation que l’IA générative est une outil aussi puissant que dangereux si elle tombe entre de mauvaises mains.
Finalement, la sécurité absolue n’existe pas, surtout dans un environnement aussi nouveau que celui des modèles de langage. Google a réussi à stopper cette tentative de clonage, mais la leçon est claire : l’espionnage industriel est devenu numérique et automatisé. Reste à voir si les nouvelles mesures de protection seront suffisantes pour empêcher quiconque de réaliser une copie pas cher du modèle le plus avancé de la grande G.