Et si les politiciens eux-mêmes étaient soumis à la reconnaissance faciale ? Les données sont pleines d’erreurs

Et si les politiciens eux-mêmes étaient soumis à la reconnaissance faciale ?  Les données sont pleines d'erreurs

L’Union européenne a donné le premier vote pour décider de l’avenir de la reconnaissance faciale. Il s’agit d’une étape fondamentale pour l’Italie, étant donné que le ministre Piantedosi s’est dit favorable à l’utilisation de cette technologie comme mesure de surveillance.

L’effet est celui des stickers sandwich. Les photos des eurodéputés sont apparues sur le portail Data Face, accompagnées d’un catalogue. Le sexe, l’âge et l’état d’esprit sont en effet établis en pourcentage par un algorithme. Certains sont plus hommes que d’autres (98%), d’autres moins (70%), il y a ceux qui sont neutres ou heureux, et les dates de naissance de tout le monde ne correspondent pas à la réalité, c’est un pari de l’algorithme. Après tout, c’est ce que reconnaissance biométrique: observer, traiter, cataloguer. Mais pas seulement. « La reconnaissance discrimine, viole la vie privée et la liberté d’expression », déclare Martina Turola de The Good Lobby, qui, avec les associations de défense des droits numériques, Hermes Center et info.nodes, a lancé Don’t Spy EU : « La campagne avec laquelle ils simulent le visage reconnaissance des eurodéputés, une provocation pour les convaincre d’interdire les technologies de surveillance ».

Aujourd’hui, les commissions Justice et Marché intérieur du Parlement européen ont donné le premier feu vert à l’AiAct, le document dans lequel pour la première fois l’Union européenne tentera de fixer ses règles en matière d’intelligence artificielle. Pour le moment, les deux commissions ont décidé d’interdire toute utilisation des technologies basées sur la reconnaissance faciale dans les lieux publics de l’Union européenne. Mais le débat sur la manière d’utiliser la reconnaissance faciale dans les lieux publics est toujours ouvert, à tel point que le dernier à l’avoir proposé a été le ministre de l’Intérieur Matteo Piantedosi dans une interview au Quotidien national a-t-il déclaré. Une technologie qui peut devenir risquée avec le temps, comme l’a expliqué Martina Turola à Netcost-security.fr.

Comment est né Don’t Spy EU ?

La campagne est née car la discussion sur le règlement européen est en cours pour comprendre ce qu’il adviendra de la reconnaissance biométrique. Nous sommes dans un moment clé car en fonction de ce qui sera décidé, nous comprendrons si oui ou non cette technologie sera utilisée en Europe. Nous avons donc pensé à créer ce projet pour protéger nos droits et sensibiliser à un type de surveillance qui met en danger les principes de l’Union européenne.

Pouvez-vous m’expliquer ce qui fonctionne en pratique ?

Oui, c’est une provocation, pratiquement sur le site il est possible de simuler la reconnaissance biométrique des députés. Grâce à un algorithme, leurs images publiques sont analysées et attribuées à chaque sexe, âge et « état émotionnel ». De cette façon, nous essayons de mettre en évidence la marge d’erreur et d’approximation de ces technologies.

Et il y a déjà eu quelques distorsions qui le prouvent.

Bien sûr, très nombreux. La reconnaissance faciale fait beaucoup d’erreurs. Si vous n’êtes pas un homme blanc occidental, vous risquez de ne pas être correctement reconnu par les algorithmes et dans certains cas même d’être arrêté injustement. Il existe de nombreux exemples inquiétants, parmi ceux-ci il y a aussi la reconnaissance biométrique utilisée pour profiler les manifestants de Black Lives Matter et ici un deuxième problème se pose.

La reconnaissance faciale comme moyen de dissuasion.

Oui, car si je sais que je peux être reconnu et que la police me traque ensuite et vient chez moi, ce qui s’est justement passé aux États-Unis, je ne vais plus manifester par peur, et cela limite la liberté d’expression.

Pour en revenir à Don’tSpy Eu, ça part de trois associations mais c’est ouvert à tous, comment ça marche ?

Pour représenter le marché de la surveillance, nous avons décidé d’impliquer d’autres développeurs pour affiner l’algorithme de reconnaissance afin de mettre en évidence les utilisations discriminatoires potentielles. Nous anticipons l’enrichissement du marché biométrique pour monter tous les risques. On peut aussi demander à l’algorithme de définir l’ethnie ou la religion d’une personne, si le logiciel voit un homme arabe il dira qu’il est musulman même s’il n’est pas dit qu’il est et est dangereux.

Qu’en est-il du concours de prix pour DeepFake ?

Il n’est pas certain que les programmes soient capables de reconnaître les fausses images des vraies, il est donc également possible que devant une fausse photo réalisée avec l’intelligence artificielle, le logiciel la reconnaisse comme vraie. Et cela peut avoir des conséquences dangereuses. Pour faire passer ce message, nous avons créé une sorte de concours où les deux premiers deepfakes les plus originaux remportent respectivement 200 et 100 euros.

Donc, en résumé, les objectifs de Don’t Spy Eu?

Tout d’abord, nous essayons d’inciter les députés européens à réfléchir au vote qu’ils seront appelés à émettre, et pour cela nous avons sélectionné leurs visages pour qu’ils soient soumis à une reconnaissance biométrique. Et puis nous voulons anticiper et faire comprendre aux citoyens européens toutes les problématiques liées à la technologie dans l’espace public.

A quelle étape en est l’Italie ?

Ensuite, l’Italie est à un point crucial car il y a un moratoire qui interdit l’utilisation privée de la reconnaissance biométrique jusqu’en 2023. Pour l’utilisation publique, une autorisation préalable est requise du garant de la vie privée et jusqu’à présent, elle a toujours interdit, c’est un signe positif. À partir de janvier 2024, cependant, étant donné que le moratoire expire si le règlement européen n’est pas approuvé, l’Italie pourrait utiliser la reconnaissance biométrique.

Surtout parce que le ministre Piantedosi a déclaré vouloir l’utiliser pour améliorer la sécurité.

Eh, bien sûr, pour nous ce sont des déclarations qui nous font reconnaître un danger et qui rendent encore plus important de sensibiliser sur cette question. Aussi parce que les entreprises qui vendent ces logiciels évoluent déjà sur le plan commercial. Ils ont déjà été testés en ville, bref, à un moment comme celui-ci, avec le gouvernement en faveur, il est encore plus crucial de faire comprendre aux gens ce qu’indique appliquer la reconnaissance biométrique dans les rues.

Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :

YouTube video