Dans une décision marquante, le gouverneur de Californie, Gavin Newsom, a opposé son veto au projet de loi SB 1047, soulignant qu’il risquait de créer une fausse impression de sécurité en matière de technologie IA. Cette position soulève des questions sur les véritables menaces que cette technologie pourrait représenter pour le public.
Le gouverneur de Californie, Gavin Newsom, a opposé son veto à la loi SB 1047, connue sous le nom d’Acte de sécurité et d’innovation pour les modèles d’IA avancés. Dans une lettre adressée aux législateurs, il a exprimé des inquiétudes, prévenant que la loi établirait un cadre réglementaire pouvant induire le public en erreur quant au contrôle de cette technologie en rapide évolution.
Newsom a déclaré : « Je ne pense pas que ce soit la meilleure approche pour protéger le public des réelles menaces posées par cette technologie. » La loi SB 1047 aurait exigé qu’un développeur, avant de commencer à former un modèle de manière initiale, se conforme à diverses exigences, y compris la capacité d’instaurer rapidement une suspension totale et l’implémentation d’un protocole de sécurité écrit et distinct.
Cependant, Newsom a noté que 32 des 50 principales entreprises d’IA étaient basées en Californie, et que la loi ne ciblait que les plus grandes sociétés. « Des modèles plus petits et spécialisés pourraient s’avérer aussi, voire plus dangereux que ceux visés par la SB 1047 », a-t-il affirmé.
Il a également souligné que, bien qu’elle ait été bien intentionnée, la loi SB 1047 ne prenait pas en compte le déploiement d’un système d’IA dans des environnements à haut risque ou l’utilisation de données sensibles. « Au lieu de cela, le projet de loi impose des normes strictes même pour les fonctions les plus basiques, tant qu’un grand système les déploie », a-t-il écrit.
La SB 1047 a suscité un débat intense au sein de l’industrie de l’IA lors de son passage à travers la législature. OpenAI s’est opposée fermement à la mesure, entraînant les démissions publiques des chercheurs William Saunders et Daniel Kokotajlo, tandis que le PDG de xAI, Elon Musk, a soutenu le projet de loi. De nombreuses personnalités d’Hollywood ont également exprimé leur support à la SB 1047, parmi lesquelles J.J. Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes et Mark Hamill.
Newsom a averti : « Nous ne pouvons pas nous permettre d’attendre qu’une catastrophe majeure se produise avant d’agir pour protéger le public. La Californie ne renoncera pas à sa responsabilité. Des protocoles de sécurité doivent être adoptés. Des garde-fous proactifs devraient être mis en place, et les conséquences pour les acteurs malveillants doivent être claires et exécutables. » Cependant, il a aussi ajouté que « finalement, tout cadre permettant de réglementer efficacement l’IA doit suivre le rythme de la technologie elle-même. »
Cette annonce est survenue moins d’un mois après que le gouverneur a signé les lois AB 2602 et AB 1836, toutes deux soutenues par le syndicat SAG-AFTRA. La loi AB 2602 exige que les artistes donnent leur consentement éclairé avant l’utilisation de leurs « répliques numériques », tandis que la loi AB 1836 a renforcé les protections contre l’usage illégal de la voix et de l’apparence d’artistes décédés.