Anthropic propose un cadre législatif pour encadrer les modèles d’IA avancés. Le projet cherche à limiter les pouvoirs d’intervention gouvernementale et à établir une norme fédérale prédominante. Face aux critiques sur la sécurité, l’entreprise s’engage à revoir son texte.
Anthropic a présenté une proposition de loi visant à réguler la sécurité des modèles d’intelligence artificielle de pointe. Ce texte cherche à restreindre les situations où le gouvernement peut bloquer le déploiement d’un modèle et établit une primauté sur certaines législations étatiques. Suite à des critiques, l’entreprise a accepté de réviser une partie de sa proposition.
Selon le journal POLITICO, qui cite trois sources anonymes proches du dossier, des représentants d’Anthropic ont soumis aux législateurs un projet confidentiel de loi sur la sécurité de l’IA de pointe, auquel le média a eu accès. Un porte-parole de l’entreprise a confirmé que le document reflète les propositions de son « Advanced AI Framework », qu’elle défend auprès des législateurs fédéraux et des États depuis juin.
Arrêter un modèle d’IA uniquement dans des cas extrêmes
Un point central du projet est la limitation du pouvoir du gouvernement pour bloquer le lancement ou l’utilisation d’un modèle. Une intervention ne serait possible qu’en présence d’un risque prévisible et imminent causant des dommages dépassant un milliard de dollars, ou des blessures graves, voire la mort, pour plus de 50 personnes.
Ce risque devrait provenir de l’une de ces trois situations :
- La création ou la libération d’une arme biologique ;
- La perte de contrôle d’un modèle par son créateur ;
- Une cyberattaque.
Même dans ces scénarios, le Département du Commerce devrait demander à un juge du Tribunal de district de Columbia d’arrêter le déploiement, après avoir établi l’existence d’un risque. Le texte cherche explicitement à interdire à tout autre département, agence ou responsable de suspendre le développement, la mise à disposition ou l’usage interne d’un modèle.
Évaluateurs indépendants et nouvelles obligations
La proposition d’Anthropic prévoit des évaluateurs indépendants, enregistrés auprès du Département du Commerce, qui inspecteraient périodiquement les laboratoires et leurs modèles de pointe. Ces évaluateurs pourraient être rémunérés par les entreprises elles-mêmes, à condition que leur paiement ne dépende pas des conclusions. Ils devraient signaler au Commerce, dans un délai de 72 heures après leur évaluation, tout risque imminent des types définis.
Les laboratoires seraient également contraints de mettre en place des cadres de sécurité, de publier des rapports de transparence pour chaque nouveau modèle de pointe, d’instaurer des protections pour les lanceurs d’alerte et de signaler les incidents critiques de sécurité au Commerce.
Le projet établit aussi une primauté de la loi fédérale sur certaines lois des États, concernant des domaines comme la divulgation publique des risques, l’évaluation par des tiers et la communication d’incidents critiques. Cette question de la préemption est l’un des sujets les plus disputés au Congrès : une partie de l’industrie défend une norme nationale unique, jugée plus simple qu’un patchwork de lois étatiques, tandis que des élus démocrates rejettent les propositions qu’ils estiment susceptibles d’affaiblir les législations locales.
Critiques et promesse de révision
Après la publication de l’article de POLITICO vendredi, le projet d’Anthropic a subi les critiques de défenseurs de la sécurité de l’IA. Ces experts jugent le texte moins rigoureux que le FRONTIER Act. L’auteur de la loi californienne sur l’IA de pointe, le sénateur Scott Wiener, a déclaré que la proposition est très en deçà des protections nécessaires pour la santé et la sécurité publiques.
Face à ces réactions, le responsable des affaires fédérales d’Anthropic, Anthony Cimino, a reconnu que la rédaction concernant la préemption manquait de précision et serait revue. Il a indiqué que d’autres problèmes soulevés seraient traités dans de futures propositions politiques.
