Les systèmes de reconnaissance faciale risquent de violer notre vie privée, de discriminer les clients et de devenir un outil de surveillance de masse. Non seulement. Les données pourraient être piratées, utilisées par des criminels pour créer des vidéos deepfake ou collectées à des fins d’études de marché, sans le consentement des propriétaires légitimes.
« Je venais de rentrer dans le store quand un vendeur s’approche et me dit : vous êtes une voleuse, vous devez partir immédiatement. » Sara (le nom est fictif, la victime souhaite rester anonyme) est expulsée, fouillée, « on me dit que je ne pourrais plus rentrer dans aucun de leurs stores », raconte-t-elle à la BBC. « J’ai pleuré en rentrant chez moi, je me suis demandé, que se passe-t-il ?. » Pour le comprendre, revenons en arrière.
Sara entre dans le store, son visage est filmé par une caméra, Facewatch, le système de reconnaissance faciale trouve une correspondance, et associe son visage à celui d’une voleuse qui avait déjà volé dans le store. Sara est innocente, mais cela n’a pas d’importance. L’histoire se termine bien, car Facewatch, après avoir détecté l’erreur dans le système biométrique, a écrit à Sara pour s’excuser. Cependant, l’histoire devient un prétexte pour prendre conscience des risques des systèmes biométriques.
L’objectif de la reconnaissance faciale est d’observer, de traiter, de cataloguer. Non seulement, elle a aussi discriminé et violé la vie privée des gens. La technologie, comme le montre l’histoire de Sara, commet encore de nombreuses erreurs. Pourtant, les forces de l’ordre mettent en œuvre des systèmes biométriques pour identifier les criminels potentiels.
Entre 2020 et 2022, la police britannique a utilisé neuf fois la reconnaissance faciale en direct. L’année suivante, 23 fois. En 2024, elle a été utilisée 67 fois. Et le phénomène semble destiné à croître. Pour citer Zygmunt Bauman, sociologue et philosophe, plus nous avons de liberté et plus nous perdons en sécurité, plus nous avons de sécurité et plus nous perdons en liberté. La technologie met encore davantage à l’épreuve cet équilibre difficile.
Comment fonctionne Facewatch
Le système de reconnaissance faciale s’appelle Facewatch et est utilisé dans divers stores au Royaume-Unis, dont Budgens, Sports Direct et Costcutter, pour identifier les voleurs à l’étalage. Les caméras capturent des milliers de visages, qui sont ensuite associés à ceux figurant dans les listes de contrôle de la police.
Lindsey Chiswick, directrice du renseignement du Met, a expliqué à la BBC que la technologie est rapide et efficace : « Il faut moins d’une seconde à la technologie pour créer l’image biométrique du visage d’une personne, la comparer à la liste d’observation personnalisée ou l’éliminer automatiquement en cas de non-correspondance ». Cette année, a ajouté la police britannique, 192 personnes ont été arrêtées grâce à la technologie biométrique.
Les risques des systèmes de reconnaissance faciale
Selon Silkie Carlo, directrice de Big Brother Watch, une ONG pour les libertés civiles, « la plupart des gens ne savent pas ce qu’est vraiment la reconnaissance faciale, je documente cette technologie depuis des années, toute personne scannée devient partie intégrante des bases de données de la police numérique ». Elle a ajouté : « Si une personne est confondue, elle peut être arrêtée, interrogée, et devra prouver son innocence à la police ».
Les systèmes de reconnaissance faciale risquent de violer notre vie privée, de discriminer les clients et de devenir un outil de surveillance de masse. Non seulement. Les données pourraient être piratées, utilisées par des criminels pour créer des vidéos deepfake ou collectées à des fins d’études de marché, sans le consentement des propriétaires légitimes.