Une initiative récente réunit plus de 200 leaders pour instaurer des limites claires en matière d’intelligence artificielle. Des personnalités éminentes appellent à un accord international avant 2026, visant à interdire des usages problématiques de cette technologie, comme l’imitation humaine ou l’autoréplication.
L’intelligence artificielle progresse à un rythme si soutenu que de nombreux spécialistes jugent urgent de définir des limites claires que cette technologie ne devrait jamais franchir. C’est le cœur de l’initiative Appel mondial pour des lignes rouges en IA, lancée ce lundi et soutenue par plus de 200 personnalités, y compris anciens chefs d’État, diplomates, scientifiques, lauréats du Prix Nobel et dirigeants d’entreprises d’intelligence artificielle. L’objectif est d’aboutir à un accord politique international avant 2026, énonçant des interdictions communes, telles que l’interdiction à l’IA de se faire passer pour un humain ou de pouvoir s’autorépliquer.
Une démarche préventive et mondiale
La proposition repose sur la conviction qu’il ne faut pas attendre d’accidents graves pour réagir, mais qu’il est essentiel de prévenir des risques majeurs avant qu’ils ne se concrétisent. Charbel-Raphaël Segerie, directeur exécutif du Centre Français pour la Sécurité en IA (CeSIA), une des organisations à l’origine de cette initiative aux côtés de The Future Society et du Centre pour l’Intelligence Artificielle Compatible avec les Humains de l’Université de Berkeley, a expliqué que : « Si les pays ne savent pas encore ce qu’ils veulent faire avec l’IA, ils doivent au moins s’accorder sur ce que l’IA ne doit jamais faire. »
Parmi les signataires, on trouve des figures influentes dans le débat autour de cette technologie : Geoffrey Hinton, considéré comme l’un des pères de l’intelligence artificielle moderne ; Wojciech Zaremba, cofondateur d’OpenAI ; Jason Clinton, responsable de la sécurité d’Anthropic ; et Ian Goodfellow, chercheur chez Google DeepMind. La journaliste philippine Maria Ressa, prix Nobel de la paix, a aussi utilisé l’Assemblée Générale des Nations Unies pour souligner la nécessité de mettre fin à « l’impunité des grandes entreprises technologiques » par une véritable reddition de comptes à l’échelle mondiale.
Bien qu’il existe des précédents au niveau régional, comme la Loi sur l’IA de l’Union Européenne, qui interdit certains usages considérés comme « inacceptables », ou l’accord entre les États-Unis et la Chine pour maintenir le contrôle humain sur les armes nucléaires, aucun cadre commun international n’est encore en place. Selon Niki Iliadis, directrice de la gouvernance mondiale de l’IA chez The Future Society, les engagements volontaires pris jusqu’à présent par les entreprises « sont insuffisants » et il est crucial de créer une institution indépendante capable de surveiller et de sanctionner.
Le professeur Stuart Russell, l’une des voix les plus écoutées dans le domaine, a rappelé que l’industrie nucléaire n’a pas commencé à construire des réacteurs avant d’avoir mis en place des mécanismes de sécurité contre d’éventuelles explosions, et il a exigé une approche similaire pour l’intelligence artificielle. Il est nécessaire de ne pas avancer dans la construction de systèmes d’IA générale tant que des garanties solides de sécurité ne sont pas établies. Pour Russell, établir des lignes rouges ne signifie pas freiner le développement économique ou l’innovation, mais veiller à ce que le progrès se déroule sans engendrer de risques existentiels. « L’idée que, pour obtenir des diagnostics médicaux basés sur l’IA, nous devons accepter en retour une AGI incontrôlable est absurde », a-t-il conclu.
Les enjeux sont d’une grande importance : il s’agit de déterminer si l’humanité sera capable d’établir des règles de coexistence face à une technologie ayant le potentiel de transformer entièrement l’économie, la politique et la vie quotidienne. L’appel cherche à anticiper des scénarios difficiles à inverser, et, bien que parvenir à un consensus international semble un défi majeur, l’initiative délivre un message clair : il ne suffit pas de faire confiance à la bonne volonté des entreprises, un cadre solide et contraignant est nécessaire. Le débat sur les « lignes rouges » de l’intelligence artificielle ne fait que commencer, mais il semble déjà se profiler comme l’une des grandes discussions politiques du XXIe siècle.