Qu’est-ce qui vient de se passer? La vice-présidente Kamala Harris a annoncé un nouvel ensemble d’exigences pour toutes les agences américaines, destinées à garantir que l’utilisation de l’IA reste sûre et non discriminatoire. Celles-ci incluent la nomination d’un responsable de l’IA pour superviser l’utilisation de la technologie par chaque agence. De plus, les voyageurs seront autorisés à refuser les analyses de reconnaissance faciale lors des contrôles de sécurité des aéroports sans crainte de conséquences.
Les exigences, qui entreront en vigueur le 1er décembre, stipulent qu’en plus de nommer un superviseur de l’IA, les agences devront établir des conseils de gouvernance de l’IA. Chaque agence est également tenue de publier un rapport en ligne et à l’Office de la gestion et du budget (OMB) montrant une liste complète des systèmes d’IA qu’elle utilise, les raisons de leur utilisation, les risques associés et la manière dont elle entend les atténuer.
Un haut responsable de l’administration Biden a déclaré que dans certaines agences, le responsable de l’IA sera nommé politiquement, alors que dans d’autres, ce ne sera pas le cas.
Les agences ont déjà commencé à recruter pour ce poste ; le ministère de la Justice a annoncé Jonathan Mayer comme premier CAIO en février. La présidente de l’OMB, Shalanda Young, a déclaré que le gouvernement prévoyait d’embaucher 100 professionnels de l’IA d’ici l’été.
« Nous avons demandé à toutes les agences fédérales de désigner un responsable de l’IA doté de l’expérience, de l’expertise et de l’autorité nécessaires pour superviser toutes les technologies d’IA utilisées par cette agence, et cela afin de garantir que l’IA est utilisée de manière responsable, sachant que nous devons avoir des dirigeants de haut niveau. au sein de notre gouvernement, qui sont spécifiquement chargés de superviser l’adoption et l’utilisation de l’IA », a déclaré Harris aux journalistes.
Les nouvelles exigences s’appuient sur le décret sur l’intelligence artificielle sûre, sécurisée et digne de confiance annoncé par le président Biden en octobre dernier. Il exigeait, entre autres choses, que des orientations claires soient fournies aux propriétaires, aux programmes d’avantages sociaux fédéraux et aux entrepreneurs fédéraux pour aborder la manière dont l’IA est souvent utilisée pour aggraver la discrimination, les préjugés et faciliter les abus dans les domaines de la justice, des soins de santé et du logement.
Harris a donné un exemple de la façon dont les nouvelles exigences fonctionneraient dans la pratique : si l’Administration des anciens combattants souhaite utiliser l’IA dans les hôpitaux VA pour aider les médecins à diagnostiquer les patients, elle devrait montrer que le système d’IA ne produit pas de « diagnostics racistes ».
D’autres exemples incluent les voyageurs ayant la possibilité de refuser l’utilisation de la reconnaissance faciale TSA sans être retardés ni perdre leur place dans la file d’attente. Par ailleurs, une surveillance humaine sera nécessaire lorsque l’IA est utilisée pour des décisions de diagnostic tests dans les systèmes de santé fédéraux et lorsque la technologie est utilisée pour détecter la fraude dans les services gouvernementaux.
« Si une agence ne peut pas appliquer ces garanties, elle doit cesser d’utiliser le système d’IA, à moins que la direction de l’agence ne justifie pourquoi cela augmenterait les risques pour la sécurité ou les droits en général ou créerait un obstacle inacceptable aux opérations tests de l’agence », indique la fiche d’information de l’OMB. .
Les directives ajoutent que tous les modèles, codes et données d’IA appartenant au gouvernement doivent être rendus publics à moins qu’ils ne présentent un risque pour les opérations gouvernementales.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
