Né en 1986, Brando Benifei (PD) fait partie des eurodéputés qui ont travaillé sur l’AI Act, le règlement sur l’intelligence artificielle qui sera voté par le Parlement européen lors de la prochaine session.
« Allez vite et cassez des choses ». « Courez vite et détruisez ce que vous rencontrez ». C’est l’une des phrases les plus citées et les plus abusées de la Silicon Valley, le mantra dont se souviennent les jeunes entrepreneurs lorsqu’ils doivent pénétrer un nouveau marché. La phrase qui sert à justifier les erreurs, les lois violées, le travail en mode noyau dur. Pour la première fois, il semble que la ruée vers le silicium, la création et la destruction des marchés nés de la révolution numérique se heurtent à un obstacle : l’Union européenne. La semaine prochaine, le Parlement européen discutera de la loi sur l’intelligence artificielle (AI Act), un règlement sur l’intelligence artificielle pour définir toutes les limites de cette technologie. Le règlement définit une série de règles sur les domaines dans lesquels cette classe de logiciels peut être appliquée. Un premier vote est déjà arrivé des commissions Justice et Marché intérieur qui ont donné leur feu vert au texte. Netcost-security.fr en a parlé avec Brando Benifei, député européen élu sur les listes PD et membre de la Commission Justice.
Comment est né l’Ai Act ?
Plusieurs commissions ont travaillé sur ce règlement. C’est une voie qui a fait ses premiers pas dans la première moitié de cette législature, qui a commencé en 2019. Tout a commencé parce que certains pays travaillaient sur une législation autonome pour l’intelligence artificielle. Le risque était de créer des différences d’État à État et de fragmenter ainsi l’ensemble du marché intérieur.
Vous avez défini des domaines où l’intelligence artificielle dans trois classes.
Oui, il existe trois catégories d’applications d’IA : risque faible, risque élevé et risque inacceptable. Les domaines à risque inacceptable sont ceux où l’intelligence artificielle est interdite, comme la reconnaissance biométrique ou les usages liés à la police prédictive. Parmi les domaines à haut risque, il y a tous les secteurs qui concernent le développement cognitif des enfants.
Y a-t-il un risque que ces réglementations freinent l’arrivée des systèmes d’intelligence artificielle ? Je pense à Bard, l’IA de Google qui est actuellement bloquée dans l’Union européenne.
Il n’y a aucun risque. Les petits développeurs sont protégés grâce à une série de systèmes qui offrent une série de protections sans avoir à appliquer les règles suivies par les grands développeurs. Cependant, dans le Bard, nous parlons d’un géant qui a tous les outils pour pouvoir s’adapter à nos réglementations et tous les intérêts pour ne pas perdre un marché comme celui de l’Europe.
Nous sommes à un stade où tout logiciel lancé sur le marché comporte une composante d’intelligence artificielle. Qu’est-ce que l’intelligence artificielle et qu’est-ce qui ne l’est pas ?
Pour la définition, nous avons pris celle utilisée par l’OCDE, nous avons donc défini une ligne commune. Fondamentalement, nous parlons de logiciels qui peuvent répondre à certaines normes d’autonomie et de capacité d’apprentissage.
Qui devra contrôler l’application de ces lois ?
Il devrait y avoir deux niveaux de supervision. Tout d’abord, il y aura un organe au niveau européen qui sera chargé de coordonner toutes les activités de surveillance. Ensuite, toutes les autorités nationales décidées par les États membres entreront également en jeu, elles devront évidemment être compétentes sur ces questions.
Le ministre Matteo Piantedosi semblait favorable à la reconnaissance faciale dans les lieux publics.
Le Parlement italien a voté un moratoire à ce sujet. Pour le moment, cependant, il n’y a pas de réglementation officielle. Je crois qu’avant de décider quoi que ce soit sur ces questions, il vaut mieux attendre le règlement européen. Surtout pour les technologies qui créent plus de violations des droits de l’homme que de sécurité. En tout cas, je suis contre l’utilisation de la reconnaissance faciale dans les lieux publics.
Y a-t-il également des allusions dans cette réglementation à des politiques visant à protéger ceux qui perdront leur emploi grâce à l’intelligence artificielle ?
Le règlement vise le marché intérieur : il ne peut aborder directement cette question. Les aspects sur lesquels nous ne pouvons qu’intervenir sont d’autres comme le choix de confier des opérations telles que l’évaluation du personnel à l’intelligence artificielle, tant dans les phases d’embauche que de licenciement.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
