Un nouveau système de surveillance émerge, promettant d’identifier des comportements anormaux, mais il soulève des inquiétudes quant à la vie privée et à la discrimination. Les défis éthiques d’une telle technologie envers les clients et les employés sont au cœur du débat, tandis que son efficacité reste à prouver.
Le nouveau système de détection surveille l’interaction du client avec les employés pendant de longues périodes. Il repose toutefois sur une hypothèse erronée qui risque de discriminer et de violer la vie privée des personnes ciblées par la surveillance algorithmique.
Corsight AI, une entreprise basée en Israël, a lancé un nouveau service pour ses clients : un système de reconnaissance faciale qui suit « des comportements anormaux » dans les stores. L’objectif est de signaler d’éventuels voleurs. De plus, les caméras cherchent également à surveiller ceux qui profitent de relations personnelles avec les employés, comme ceux qui reçoivent des réductions ou des articles gratuits.
Le dernier produit de Corsight s’inscrit dans un marché en pleine expansion riche en problèmes. Les caméras observent, traitent et cataloguent. Elles ont également discriminé et violé la vie privée des individus. Cette technologie commet encore de nombreuses erreurs, et pourtant, de plus en plus de stores intègrent des systèmes biométriques pour identifier les criminels potentiels. En effet, ces dernières années, les grandes chaînes de distribution ont intégré des systèmes de surveillance algorithmique de plus en plus avancés.
Comment fonctionne la reconnaissance faciale de Corsight
Le nouveau système de détection surveille l’interaction du client avec les employés pendant de longues périodes. Comme l’a expliqué Shai Toren, PDG de Corsight à Gizmodo, « si vous allez dans un store, vous choisissez généralement n’importe quelle caissière et vous allez scanner vos produits. Si quelqu’un prévoit un vol, il ira toujours vers la même caissière, souvent un parent. Notre système est capable d’identifier cette anomalie et d’envoyer une alerte au propriétaire du store”.
Corsight a également cité un communiqué de la National Retail Federation sur le vol à la consommation qui représenterait 29% des pertes d’inventaire pour les stores, « notre système vise à réduire ces vols ».
Pourquoi nous ne devrions pas utiliser les systèmes de surveillance
Le système présente plusieurs problèmes. Comme l’a expliqué Chelsea Connor, directrice des communications pour la Retail, Wholesale et Department Store Union (RWDSU), « cette technologie peut être très dangereuse, le système repose sur une hypothèse erronée, ce n’est pas parce qu’un client choisit d’aller chez la même caissière qu’il essaie d’escroquer le store ». En effet, souvent, les employés cherchent à développer des relations avec les clients pour les inciter à revenir acheter, explique Connor.
Caitlin Seeley George, directrice de l’organisation à but non lucratif Fight for the Future, a appelé les détaillants à s’engager à ne pas utiliser la reconnaissance faciale. Selon George, les systèmes de surveillance pourraient également être utilisés pour profiler le comportement des clients à des fins de marketing.
Les discriminations de l’algorithme
Selon Silkie Carlo, directrice de Big Brother Watch, ONG pour les libertés civiles, « la plupart des gens ne savent pas ce qu’est vraiment la reconnaissance faciale, cela fait des années que j’étudie cette technologie, quiconque est scanné entre dans un dossier dans les bases de données de la police numérique ». Elle a ensuite ajouté : « Si une personne est confondue, elle peut être arrêtée, interrogée, et devra prouver son innocence à la police ».
Les systèmes de reconnaissance faciale risquent de violer notre vie privée, de discriminer les clients et de devenir un outil de surveillance de masse. De plus, les données pourraient être piratées, utilisées par des criminels pour créer des vidéos deepfake ou collectées pour des études de marché, sans le consentement des véritables propriétaires.