La Californie, berceau de l’intelligence artificielle, se retrouve aujourd’hui à un tournant décisif, cherchant à réguler cette technologie en constante évolution. Le projet de loi SB 1047, récemment révisé, suscite des débats autour de l’équilibre entre innovation et sécurité. Les ajustements apportés visent à répondre aux inquiétudes exprimées par les entreprises, tout en renforçant la protection des citoyens.
En résumé : Selon Geoffrey Hinton, le « parrain de l’IA », l’intelligence artificielle est née en Californie il y a 40 ans. Aujourd’hui, l’État californien tente de réglementer la recherche et le développement de futurs algorithmes d’IA puissants. Cependant, les entreprises ont exprimé leurs inquiétudes quant au risque d’une réglementation excessive.
Le sénateur Scott Wiener a amendé le projet de loi 1047 du Sénat après avoir pris en compte les préoccupations d’Anthropic et d’autres entreprises d’IA. Dans un récent communiqué de presse, Wiener a expliqué que le projet de loi 1047 vise à établir de nouvelles règles de « développement sûr » pour les systèmes d’intelligence artificielle à grande échelle en Californie, en promouvant des normes de sécurité de bon sens pour exploiter cette technologie potentiellement perturbatrice et prévenir les menaces pour la sécurité publique.
Le projet de loi SB 1047 est en cours de test à l’Assemblée et doit être voté avant le 31 août. Le projet de loi, qui, selon Wiener, peut aider la Californie à faire progresser l’innovation et la sécurité dans le développement de l’IA, a été révisé après avoir reçu les commentaires des dirigeants de l’industrie de l’IA, du monde universitaire et du secteur public. Anthropic avait des inquiétudes particulières concernant le projet de loi SB 1047, et Wiener a noté que le projet de loi révisé intègre certaines des propositions d’amendement « très raisonnables » de l’entreprise.
Le projet de loi SB 1047 mis à jour répond aux principales préoccupations d’Anthropic en supprimant les sanctions pénales et en les remplaçant par des sanctions civiles. Par ailleurs, le nouvel organisme de réglementation proposé a été éliminé au profit d’une structure réglementaire plus « rationalisée » qui ne devrait pas avoir d’impact significatif sur la capacité de la Californie à tenir les acteurs malveillants de l’IA responsables de leurs actes.
De nouvelles normes juridiques exigent désormais que les développeurs d’IA fassent preuve d’une « diligence raisonnable » dans la création et la formation d’algorithmes d’IA sûrs. Le projet de loi 1047 du Sénat ne s’applique qu’aux modèles qui ont été peaufinés grâce à des investissements d’au moins 10 millions de dollars, exemptant les développeurs de modèles open source plus petits de ses dispositions.
Selon le sénateur Wiener, le projet de loi SB 1047 bénéficie du support d’éminents chercheurs en IA, dont Geoffrey Hinton et Yoshua Bengio. Le projet de loi révisé vise à établir de nouvelles normes pour le développement de l’IA, en particulier pour les modèles dont la formation coûte plus de 100 millions de dollars. Ces modèles « pionniers » doivent mettre en œuvre des précautions et des garanties de base contre toute utilisation abusive, et le procureur général de Californie aura le pouvoir de traduire les développeurs en justice si un système d’IA puissant cause un « préjudice grave » aux citoyens.
Le sénateur Wiener a souligné que même si le Congrès n’a pas encore adopté de réglementation technologique significative depuis l’ère de la disquette, la Californie doit agir pour atténuer les risques posés par les algorithmes d’IA qui progressent rapidement. Le professeur Hinton a salué le projet de loi SB 1047 pour avoir trouvé un équilibre raisonnable entre les préoccupations des législateurs et celles des entreprises d’IA, offrant aux autorités de l’État des mesures efficaces pour faire face aux risques tout en favorisant l’innovation dans le domaine.