Une importante réunion avant la 80e Assemblée de l’ONU a réuni des leaders et des scientifiques pour discuter des limites nécessaires à l’intelligence artificielle. Ils appellent à un accord international pour encadrer cette technologie, soulignant les dangers d’une absence de régulation.
Des leaders mondiaux, des scientifiques et d’importantes personnalités se sont réunis lors d’une rencontre préliminaire à la 80e Assemblée Générale des Nations Unies, soulignant un point essentiel : la nécessité d’instaurer des limites à l’IA, que les gouvernements doivent établir.
Cette semaine a débuté par une réunion cruciale à New York, avant la 80e Assemblée Générale des Nations Unies. Bien qu’elle ait traité divers sujets, un espace a été consacré à l’intelligence artificielle, un enjeu qui nous touche tous. Plus de 200 anciens chefs d’État, diplomates, leaders en IA et scientifiques se sont accordés sur la nécessité d’un accord international pour définir des limites à ne pas franchir concernant l’IA. Des exemples précis ont été mis en avant, tels que l’interdiction pour l’IA de se faire passer pour un humain ou d’être reproduite.
L’initiative « Appel Mondial pour des Lignes Rouges en IA » est officielle, signée avec plus de 70 organisations liées à l’IA
Il s’agit de l’un des accords les plus sérieux discutés depuis que l’IA fait partie de nos vies technologiques. L’objectif est que les gouvernements atteignent, d’ici la fin 2026, un « accord politique » sur les limites à appliquer à l’IA. Dans les signataires se trouve le cofondateur d’OpenAI, Wojciech Zaremba, le CISO d’Anthropic, Jason Clinton, ainsi que le chercheur de Google DeepMind, Ian Goodfellow.
Si les nations ne peuvent pas s’accorder sur l’utilisation de l’IA, elles doivent au moins convenir de ce que l’IA ne devrait jamais faire. Charbel-Raphaël Segerie, directeur exécutif du Centre Français pour la Sécurité de l’IA (CESIA).
Maria Ressa, prix Nobel de la paix, a déclaré lors de son discours d’ouverture quelle appelle à « mettre un terme à l’impunité des grandes entreprises technologiques à travers une reddition de comptes mondiale ».
L’application de l’intelligence artificielle dans le domaine militaire inquiète les spécialistes : lors de simulations, elle tend à aggraver les conflits au lieu de les apaiser.
Certains pays et régions sont conscients du problème, mais un consensus mondial fait défaut
La loi sur l’IA de l’Union Européenne qualifie certains usages de « prohibés » ou « inacceptables », alors que d’autres régions y adhèrent. Entre les États-Unis et la Chine, un accord stipule que les armes nucléaires doivent « rester sous contrôle humain », et non de l’IA. Ce sujet délicat prend une résonance particulière au vu des récents conflits entre nations : Ukraine et Russie, Israël, Iran et Palestine.
Une déclaration marquante a été faite par le professeur informatique de l’Université de Californie à Berkeley, Stuart Russell, qui a affirmé que « nous pouvons avancer seulement si nous ne développons pas d’IA tant que nous ne savons pas comment la rendre sûre« . La réalité semble l’imposer, d’autant plus après les inquiétudes qui ont été émises à propos de DeepSeek et des IA potentiellement dangereuses pour les utilisateurs novices.
Rassurez-vous : l’intelligence artificielle ne représente pas un risque pour l’humanité.
Nous verrons si cette initiative parvient à capter l’attention des politiciens et des dirigeants les plus influents du monde. Faut-il que l’IA soit régulée par les gouvernements ou par des experts qualifiés ? Ce sujet de préoccupation publique continuera de susciter l’intérêt, surtout en fonction de l’évolution technologique dans les prochaines années.