Une innovation inquiétante ! Deux étudiants de Harvard ont développé un projet qui illustre la menace des technologies intrusives. Intitulé I-XRAY, il permet de reconnaître des visages et de divulguer en temps réel des informations sensibles. Cette démonstration choc met en lumière les dangers qui pèsent sur la vie privée à l’ère des dispositifs intelligents.
Deux étudiants de Harvard, AnhPhu Nguyen et Caine Ardayfio, ont créé un projet controversé appelé I-XRAY, qui combine la technologie de reconnaissance faciale avec des lunettes intelligentes capables non seulement d’identifier des personnes, mais aussi de récupérer leurs informations personnelles – y compris leur adresse, numéro de téléphone et membres de la famille – en temps réel.
Le projet utilise les lunettes intelligentes Ray-Ban commercialisées par Meta et un système sur mesure permettant de rechercher rapidement le visage d’une personne et de fournir des informations d’identification sur le téléphone de l’utilisateur.
« Pour l’utiliser, il suffit de mettre les lunettes et, en passant devant des personnes, les lunettes détecteront un visage dans le champ de vision, » a expliqué Ardayfio à 404 Media. « Après quelques secondes, les informations personnelles apparaissent sur votre téléphone. »
Selon un document Google accompagnant le projet, I-XRAY s’appuie sur plusieurs technologies existantes, y compris PimEyes, un service de reconnaissance faciale permettant de rechercher des visages, et des courtiers en données qui collectent des informations personnelles. Des modèles de langage (LLM) sont également utilisés pour inférer des détails personnels à partir de contenus extraits du web.
En substance, ils ont utilisé principalement des produits disponibles dans le commerce pour construire un système qui divulgue automatiquement des informations sur des personnes dans des espaces publics.
Après avoir pris une photo, le système visite automatiquement le site web de PimEyes et télécharge la photo. PimEyes fournit les URL où les photos correspondantes peuvent être trouvées, et I-XRAY ouvre ensuite ces URL, qui peuvent aller de photos de classe à des profils sur le site d’un employeur. Le LLM est capable de déterminer le nom de la personne, son emploi et d’autres détails personnels à partir de ces URL.
Une fois qu’il a le nom, I-XRAY se connecte alors à un courtier en données accessible au public, fournissant adresses, numéros de téléphone et informations sur les relations familiales.
Les créateurs ont présenté les capacités d’I-XRAY dans une vidéo publiée sur X et lors d’une démonstration en direct pour 404 Media. Le système a été capable d’identifier des camarades de classe, des inconnus dans le métro, et même de retrouver d’anciennes photos d’enfance des sujets.
Sommes-nous prêts pour un monde où nos données sont exposées d’un simple coup d’œil ? @CaineArdayfio et moi offrons une réponse pour vous protéger ici : https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
– AnhPhu Nguyen (@AnhPhuNguyen1) 30 septembre 2024
Il n’est pas surprenant que les personnes ainsi exposées aient été choquées. Comme l’a dit un sujet à Ardayfio : « Mec, waouh, c’est la chose la plus folle que j’aie jamais vue. Comment sais-tu le numéro de téléphone de ma mère ? »
Les étudiants affirment que leur motivation était principalement la curiosité et l’intérêt. Cependant, ils ont vite réalisé les dangers potentiels. « Un type pourrait facilement trouver l’adresse d’une fille dans le train et simplement la suivre jusqu’à chez elle, » a déclaré Nguyen.
En effet, l’une des démonstrations en direct a montré à quel point la technologie pouvait être utilisée à des fins malveillantes. Ardayfio a abordé une femme qu’il a appelée Betsy, armé d’informations qu’il avait obtenues par le biais de la reconnaissance faciale sur son téléphone. Il s’est présenté en prétendant qu’ils s’étaient rencontrés par le biais d’une fondation spécifique mentionnée dans les résultats de recherche.
Le nom de famille de la femme était caché dans la vidéo, mais 404 Media a indiqué qu’elle pouvait facilement être identifiée à partir des informations présentées dans la démonstration. L’article précisait qu’il n’était pas clair si elle avait consenti à être utilisée comme cobaye.
Cependant, le système n’est pas infaillible. Parfois, il fournissait le mauvais nom, selon certaines des réponses lors de la démonstration.
Il n’est pas surprenant que le projet soulève d’importantes préoccupations en matière de vie privée.
Interrogé pour un commentaire, un porte-parole de Meta a souligné que la technologie de reconnaissance faciale peut être utilisée avec n’importe quelle caméra, pas seulement avec leurs lunettes intelligentes Ray-Ban. Ils ont également souligné leurs conditions d’utilisation, qui stipulent que les utilisateurs sont responsables d’utiliser les lunettes « de manière sûre, légale et respectueuse ».
PimEyes, le service de reconnaissance faciale utilisé dans le projet, a exprimé sa surprise quant à la manière dont leur technologie était appliquée.
Nguyen et Ardayfio affirment qu’ils ne publieront pas le code d’I-XRAY. Ils considèrent leur projet comme un moyen de sensibiliser à l’état actuel de la technologie et à son utilisation abusive potentielle. « Je pense que les personnes pourraient définitivement prendre l’idée et en faire quelque chose, » a déclaré Ardayfio. « J’espère que la sensibilisation que nous avons propagée sur la façon de protéger vos données l’emportera sur les impacts négatifs que cela pourrait avoir. »