Près de 1200 cadres supérieurs des entreprises d’intelligence artificielle les plus puissantes du monde demandent un ralentissement urgent du développement de la technologie. Dans une nouvelle lettre ouverte, ils affirment que la technologie risque de progresser si rapidement que nous ne pourrions plus « comprendre ou contrôler les systèmes qui en résultent ».
Ce texte, intitulé « Ralentir la frontière », est signé par des dirigeants et des scientifiques de premier plan de sociétés comme OpenAI, créateur de ChatGPT, Anthropic et Google DeepMind. La lettre prévient que « l’IA pourrait contribuer à créer un avenir nettement meilleur, mais ce résultat n’est pas garanti ». Selon les signataires, il existe un risque que la technologie évolue plus vite que notre capacité à « gérer les risques émergents, à développer des mesures de sécurité et à renforcer la surveillance », ce qui pourrait la faire déraper hors de contrôle.
Les auteurs de la lettre réclament donc un ralentissement immédiat des travaux sur les modèles d’IA. Ils estiment toutefois que les entreprises elles-mêmes ne peuvent pas agir seules et que le gouvernement américain doit soutenir un effort international pour « ralentir délibérément la frontière du développement automatisé de l’IA ».
« Si l’IA doit être aussi transformatrice que l’électricité, nous devons être intentionnels sur la manière de l’introduire dans le monde », a déclaré Laura Weidinger, chercheuse chez Google et signataire de la lettre. « Une course effrénée, sans garanties sur la gouvernance, la sécurité ou l’intérêt public, fait obstacle à cette intentionnalité. »
Sur X, OpenAI a reconnu que la vitesse du développement pourrait devenir un problème. « Nous pensons qu’à un moment donné dans le futur, l’accélération de l’IA pour le développement de modèles de pointe pourrait être si élevée que le monde devra ralentir le rythme des progrès », a écrit l’entreprise. Son rival Anthropic, créateur du système Claude, a estimé que du temps supplémentaire était nécessaire pour se préparer. « Nos recherches sur l’auto-amélioration récursive, publiées le mois dernier, montrent qu’il faut des outils pour ralentir délibérément la frontière du développement de l’IA afin que la société puisse se préparer », a indiqué Anthropic dans un billet de blog.
Le mois dernier, Anthropic avait déjà appelé les développeurs de modèles d’IA de pointe à ralentir ou à suspendre temporairement le développement si la technologie atteignait ce stade d’« auto-amélioration récursive », où les systèmes pourraient s’améliorer eux-mêmes. « Il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe pour permettre aux structures sociétales et à la recherche d’alignement de suivre le rythme », indiquait le billet de juin.
Sam Altman, le patron d’OpenAI, s’était auparavant opposé à des pétitions similaires, estimant qu’elles manquaient de nuance sur les parties du développement à suspendre. Mais il semble s’être inquiété après qu’un modèle d’OpenAI a piraté de manière autonome une autre entreprise d’IA. Il a qualifié cet incident d’« extrêmement futuriste » et a dit qu’il s’agissait du « premier incident de sécurité que j’ai ressenti de manière très viscérale ».
« Nous devrons peut-être ralentir le rythme du développement de l’IA pour nous donner suffisamment de temps afin que la société se renforce face à ces nouveaux niveaux de capacités », a-t-il déclaré dans un entretien avec le podcast Invest Like the Best. Mais il a précisé que cela doit se faire « d’une manière qui ne ressemble pas à une capture réglementaire pour personne et qui ne ressemble pas à une collusion entre les laboratoires de pointe ».
Certains critiques suggèrent que ces mises en garde sur le danger de l’IA constituent elles-mêmes du marketing pour les entreprises qui la créent. Sam Altman a par exemple utilisé à plusieurs reprises des affirmations sur la menace de la technologie pour lever des fonds pour OpenAI, arguant que renforcer des sociétés comme la sienne aiderait à limiter l’utilisation de l’IA par des acteurs malveillants.
Texte intégral de la déclaration « Ralentir la frontière »
« L’IA pourrait contribuer à créer un avenir nettement meilleur, mais ce résultat n’est pas garanti. Les principales entreprises d’IA du monde pensent qu’elles pourraient être proches d’automatiser la recherche en IA. Il est difficile de prédire exactement combien cela accélérera les progrès, mais il existe un risque réel que le développement des capacités s’accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent.
Pour réaliser le potentiel de l’IA, l’industrie, le gouvernement et la société dans son ensemble doivent peut-être avoir la possibilité de gagner du temps pour gérer les risques émergents, développer des mesures de sécurité et renforcer la surveillance. Mais chaque entreprise et chaque pays subit une pression concurrentielle intense pour ne pas ralentir unilatéralement cette accélération. Le monde manque aujourd’hui des outils techniques et de gouvernance nécessaires pour ralentir délibérément les progrès à la frontière.
En nous appuyant sur les travaux déjà en cours pour surveiller les publications de modèles de pointe, nous demandons au gouvernement américain de soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires pour ralentir délibérément la frontière du développement automatisé de l’IA. »