Contexte : Les grandes entreprises d’IA ont montré à quel point elles peuvent être irresponsables et impitoyables en tirant parti des algorithmes d’apprentissage automatique pour générer des gains financiers pour les membres du conseil d’administration et les actionnaires. Aujourd’hui, ces mêmes entreprises demandent à l’ensemble du monde technologique de leur faire confiance pour agir de manière responsable lorsque des modèles d’IA vraiment dangereux seront finalement développés.
Certaines des entreprises les plus importantes travaillant avec des algorithmes et des services d’IA ont signé un nouvel accord volontaire pour promouvoir la sécurité de l’IA, rendant ainsi leurs opérations plus transparentes et plus fiables. L’accord, introduit avant le récent sommet AI de Séoul, ne prévoit aucune mesure exécutoire pour contrôler les services d’IA dangereux, mais il semble suffisamment satisfaisant pour plaire aux gouvernements britannique et sud-coréen.
Le nouvel accord implique des géants de la technologie et de l’IA tels que Microsoft, OpenAI, xAI (Elon Musk et son entreprise Grok), Google, Amazon, Meta et la société chinoise Zhipu AI. Tous les partis vont désormais présenter et publier leurs projets de classification des risques liés à l’IA et sont apparemment prêts à s’abstenir de développer des modèles qui pourraient avoir de graves effets sur la société.
L’accord fait suite à des engagements antérieurs sur la sécurité de l’IA approuvés par des organisations internationales et 28 pays lors du Sommet sur la sécurité de l’IA organisé par le Royaume-Uni en novembre 2023. Ces engagements, connus sous le nom de Déclaration de Bletchley, appelaient à une coopération internationale pour gérer les risques et les potentiels liés à l’IA. régulation des systèmes d’IA les plus puissants (Frontier AI).
Selon le Premier ministre britannique Rishi Sunak, les nouveaux engagements devraient garantir au monde que les principales entreprises d’IA « feront preuve de transparence et de responsabilité » dans leurs projets visant à créer des algorithmes d’IA sûrs. Sunak a déclaré que l’accord pourrait servir de nouvelle « norme mondiale » pour la sécurité de l’IA, démontrant la voie à suivre pour récolter les avantages de cette technologie puissante et « transformatrice ».
Les entreprises d’IA devraient désormais fixer les « seuils » au-delà desquels les systèmes Frontier AI peuvent présenter un risque à moins que des mesures d’atténuation appropriées ne soient déployées et décrire comment ces mesures d’atténuation seront mises en œuvre. Les accords mettent l’accent sur la collaboration et la transparence. Selon les représentants britanniques, la Déclaration de Bletchley, qui appelle à une coopération internationale pour gérer les risques liés à l’IA, a bien fonctionné jusqu’à présent, et les nouveaux engagements continueront de « rapporter des dividendes ».
Les entreprises auxquelles on fait confiance pour protéger le monde contre les risques liés à l’IA sont les mêmes qui ont prouvé à plusieurs reprises qu’il ne fallait pas leur faire confiance. OpenAI, soutenu par Microsoft, a demandé à Scarlett Johansson la permission d’utiliser sa voix pour le dernier robot ChatGPT, puis a quand même utilisé sa voix lorsqu’elle a décliné l’offre. Les chercheurs ont également montré que les chatbots sont des machines incroyablement puissantes qui propagent des logiciels malveillants, même sans les modèles « Frontier AI ».
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
