Une victime subit des appels incessants depuis plus d’un mois. Des inconnus la contactent pour des conseils juridiques, un serrurier ou un designer de produits. Tous mentionnent avoir obtenu le numéro via l’IA de Google.
Cet incident illustre le phénomène émergent de l’AI doxxing, où des outils comme Gemini ou ChatGPT diffusent des données personnelles sans autorisation. Le numéro de la victime sert de valeur par défaut quand les utilisateurs demandent des coordonnées d’entreprises ou de services.
Sur le forum Reddit r/Google, la personne décrit une intrusion massive dans sa vie quotidienne : « Des étrangers m’appellent sans cesse pour un avocat, un serrurier ou autre. Chacun dit avoir eu mon numéro de l’IA de Google. Mon téléphone sonne en permanence, et cela perturbe tout. »
Autres cas signalés
Le chatbot Grok d’Elon Musk a révélé des adresses résidentielles de particuliers non publics. L’assistant IA de WhatsApp chez Meta a partagé par erreur des numéros privés. ChatGPT a aussi inventé des informations compromettantes sur des individus.
Amplification des failles de données
Les spécialistes de la vie privée soulignent que les modèles de langage large (LLM) aggravent les dysfonctionnements anciens liés à la collecte en ligne. Ces systèmes s’appuient sur des données internet variées : archives périmées, publications de forums et bases de données extraites, qui font resurgir des détails erronés ou confidentiels.
Un porte-parole de ClearNym, service de suppression de données, explique : « Le souci de Gemini découle de décennies de courtage de données incontrôlé combiné à l’IA générative. Les entreprises ont collecté numéros, adresses et liens familiaux à partir de bases publiques, puis les ont vendus ou intégrés aux ensembles d’entraînement. Aujourd’hui, ces éléments réapparaissent fidèlement ou modifiés, y compris comme numéros génériques pour des tiers. »
Les chercheurs de ClearNym prévoient une détérioration avec les modèles IA plus avancés et volumineux. L’absence de régulation, comme le droit à l’oubli applicable aux moteurs de recherche, laisse les victimes démunies : impossible d’obliger une IA à effacer des informations ou de poursuivre tous les courtiers de données.
Google répond : « Des protections empêchent l’apparition de contenus personnels dans les fonctionnalités Search AI. Des outils dédiés permettent les demandes de suppression. Nous examinons chaque requête et agissons si elle respecte nos règles. »
Exploitation criminelle
Un rapport récent de Virgin Media O2 révèle que des millions de Britanniques reçoivent de faux numéros de service client via des outils IA. Les escrocs insèrent leurs lignes dans les LLM pour manipuler les réponses, se faisant passer pour des marques fiables et piégeant les utilisateurs dans des arnaques.
Murray Mackenzie, directeur de la prévention des fraudes chez Virgin Media O2, note : « Les fraudeurs profitent des recherches urgentes pour placer des numéros crédibles dans les résultats de recherche ou chatbots, exposant les gens à des appels vers des malfaiteurs plutôt que vers leur fournisseur. »
Selon Aurascape, les attaquants « ensemencent » du contenu empoisonné sur Yelp ou YouTube avec des mots-clés comme « numéro officiel de réservation British Airways ». Les rampant web des IA captent ces fausses infos pour l’entraînement.
Qi Deng, chercheur sécurité chez Aura Labs d’Aurascape, résume : « Les assaillants modifient discrètement le web lu par les IA. Une requête sur un numéro d’aviation renvoie un contact vers un escroc au lieu de la compagnie réelle. »
Recours limités
Les experts conseillent de vérifier les numéros sur les sites officiels des entreprises. Pour les numéros piégés par erreur dans les réponses des chatbots, les options restent rares. La victime de Gemini témoigne : « Les formulaires de support mènent nulle part. Ma demande officielle de suppression à Google reste sans réponse, et les appels persistent. »
OpenAI a récemment admis une fixation étrange de ChatGPT sur des gobelins, preuve des limites : les IA entraînées ne désapprennent pas aisément, contrairement aux moteurs de recherche.