La Maison Blanche a publié sa première charte des droits pour l’intelligence artificielle

La Maison Blanche A Publié Sa Première Charte Des Droits

La déclaration des droits de l’IA pourrait jeter les bases d’une future législation, mais pour le moment, elle n’est pas contraignante. La Big Tech peut encore circuler librement dans ce secteur.

L’univers virtuel est de plus en plus réel, et la Charte des droits de l’intelligence artificielle est une prise de conscience. Le président Joe Biden a présenté le 4 octobre une nouvelle déclaration des droits sur l’intelligence artificielle. Pour beaucoup ça manque de mordant, c’est terne, non contraignant et très fragile par rapport aux initiatives granitiques de l’Union Européenne. Pourtant, c’est une première étape pour essayer de mettre un peu d’ordre dans l’anarchie fragile des terres numériques.

Le Bureau de la politique scientifique et technologique (OSTP) a publié le projet après avoir recueilli les contributions de startups, d’entreprises technologiques, de groupes de réflexion sur les droits de l’homme et même du public. Le résultat est cinq principes fondamentaux qui visent à promouvoir la concurrence dans le secteur de la technologie et à fournir des garanties fédérales en matière de confidentialité.

Les cinq principes fondamentaux

Tout d’abord, le droit des personnes de savoir comment leurs données sont utilisées. De plus en plus de scandales liés à la Big Tech ont en effet montré comment des informations personnelles sont collectées à l’insu des utilisateurs, on ne sait même pas comment l’énorme quantité de données sera ensuite utilisée. Vient ensuite la possibilité de renoncer à la prise de décision automatisée au profit d’une alternative humaine et d’avoir un contact direct avec le personnel en cas de problème. Enfin les algorithmes. La Charte met sur papier la possibilité d’échapper à des algorithmes inefficaces ou peu sûrs, et de désamorcer les risques d’algorithmes qui détruisent l’éthynie, le sexe et la religion.

« Ces technologies causent de réels dommages dans la vie des Américains, des dommages qui vont à l’encontre de nos valeurs démocratiques fondamentales, notamment le droit fondamental à la vie privée, la protection contre la discrimination et notre dignité fondamentale », a expliqué un haut responsable de l’administration Biden. Le grand péché de la déclaration des droits de l’IA est qu’elle n’aura pas force de loi. Il s’agit d’un livre blanc non contraignant. Ce sera un guide pratique pour les agences gouvernementales et une invitation aux entreprises technologiques à suivre les principes de la Charte.

Critique de la déclaration des droits de l’IA

Russell Wald, directeur de la politique du Stanford Institute for Human-Centered AI, a expliqué que le document manque de détails, trivialement, il ne peut pas être appliqué. « Il est décourageant de constater l’absence d’une politique fédérale cohérente pour relever les défis désespérément nécessaires posés par l’IA, tels que la surveillance, l’audit et l’examen coordonnés au niveau fédéral des actions visant à atténuer les risques et les dommages causés par les modèles de base mis en œuvre ou open source. , « il dit. « Nous aimerions voir des interdictions claires sur les implémentations d’IA qui ont été les plus controversées, qui incluent, par exemple, l’utilisation de la reconnaissance faciale pour la surveillance de masse. »

Annette Zimmermann, experte en intelligence artificielle, justice et philosophie morale à l’Université du Wisconsin-Madison, suit. Elle insiste également sur la nécessité d’inscrire dans des cadres réglementaires les principes permettant de reconnaître et d’imputer la responsabilité des entreprises. En bref, les lignes directrices sont justes, mais sans effet contraignant, elles risquent d’être inefficaces.

La Maison Blanche a toutefois également annoncé que des initiatives seront mises en place pour se prémunir contre les dommages éventuels de l’ILL. Le ministère de la Santé et des Services sociaux travaille sur un plan visant à réduire la discrimination algorithmique dans les soins de santé d’ici la fin de l’année. En effet, il est apparu que certains algorithmes donnaient un accès aux soins discriminatoire aux groupes marginalisés. Vient ensuite le ministère de l’Éducation qui, d’ici 2023, présentera un ensemble de recommandations sur l’utilisation de l’IA pour l’enseignement et l’apprentissage.

Réactions dans le monde de la technologie

La déclaration des droits de l’IA de l’OSTP est « impressionnante », a déclaré Marc Rotenberg, qui dirige le Center for AI and Digital Policy, une organisation à but non lucratif qui suit les politiques en matière d’IA. « C’est clairement un point de départ. Cela ne met pas fin à la discussion sur la manière dont les États-Unis mettent en œuvre une IA centrée sur l’humain et digne de confiance », dit-il. Matt Schruers, président du lobby technologique CCIA (parmi ses membres Google, Amazon et Uber) a apprécié les « orientations ». de « l’administration selon laquelle les agences gouvernementales devraient montrer l’exemple dans le développement de principes éthiques de l’IA ».

Shaundra Watson, directrice de la politique d’IA pour le lobby technologique BSA (Microsoft et IBM), a noté qu' »il sera important de s’assurer que ces principes sont appliqués d’une manière qui augmente les protections et la fiabilité dans la pratique ». Une mesure accueillie avec enthousiasme par le monde de la tech. Un enthousiasme qu’un cadre réglementaire contraignant aurait peut-être refroidi.

À quel moment l’Union européenne

L’Europe sur le sujet, en revanche, grince des dents et montre ses griffes. Cette fois, il a dix longueurs d’avance sur les États-Unis. Les parlementaires réfléchissent en effet à la manière de changer la loi sur l’IA, et d’interdire certaines fonctions comme la police prédictive, « viole la présomption d’innocence ainsi que la dignité humaine. » Un moyen de protéger les citoyens de la dangereuse dérive de l’intelligence artificielle même une semaine s’est écoulée depuis le nouveau projet de loi qui permet aux personnes touchées par l’IA de déposer une plainte devant un tribunal civil.

Perspectives d’avenir

La déclaration des droits de l’IA pourrait jeter les bases d’une future législation, comme l’adoption de la loi sur la responsabilité algorithmique ou la création d’une agence pour réglementer l’IA, déclare Sneha Revanur, qui dirige Encode Justice, une organisation qui se concentre sur les jeunes et l’IA. « Bien que limitée dans sa capacité à remédier aux méfaits du secteur privé, la Déclaration des droits de l’IA peut tenir ses promesses si elle est appliquée de manière significative », dit-il.