Un groupe de surveillance de la sécurité de l’intelligence artificielle a alerté sur le rythme de développement des systèmes d’Anthropic. Selon l’analyse, la progression serait deux fois plus rapide aujourd’hui qu’il y a un an. Cette information a été publiée jeudi par METR, un organisme à but non lucratif qui siège à Berkeley en Californie.
Les chercheurs de METR ont eu accès aux données internes de la société et ont interrogé son personnel. Cette évaluation intervient avant l’introduction en bourse d’Anthropic, qui est programmée pour la fin du mois. Ce lancement survient alors que le débat fait rage sur les risques potentiels de modèles d’IA qui échapperaient au contrôle humain.
Jusqu’à présent, les détails concernant cette technologie et ses dangers provenaient principalement des entreprises d’intelligence artificielle elles-mêmes. Ces firmes ont été incitées par l’administration du président Donald Trump à s’autoréguler sur les questions de sécurité.
Anthropic, qui est basée à San Francisco, a refusé de commenter ce nouveau rapport dans l’immédiat.
Le directeur général d’Anthropic plaide pour un ralentissement
La période d’évaluation du groupe de recherche a coïncidé avec un appel public de Dario Amodei, le directeur général d’Anthropic. Il a demandé à l’industrie de l’IA de réduire la cadence de son travail pour que les mesures de sécurité puissent suivre. Dans un essai publié le 12 septembre, il a exhorté le monde de l’intelligence artificielle à ralentir le rythme d’amélioration des capacités des modèles.
METR estime pourtant qu’Anthropic améliore actuellement les capacités de ses modèles pour des tâches bien spécifiques environ deux fois plus vite qu’auparavant. Les chercheurs de l’organisme pensent que cette accélération est largement due à l’aide de l’intelligence artificielle elle-même. Anthropic a déclaré que son assistant conversationnel Claude aide de plus en plus l’entreprise à développer des versions plus avancées de lui-même.
METR mène des évaluations sur les capacités des modèles pour Anthropic, OpenAI et d’autres laboratoires depuis des années. L’organisme est financé par des dons et ne perçoit pas de rémunération pour son travail. Les entreprises d’IA qui collaborent avec lui pour des évaluations fournissent un accès et des jetons, que METR utilise pour ses tests, ses recherches et son ingénierie.
L’un de ses deux rapports s’appuie sur l’analyse des données internes d’Anthropic, que la société a fournies sur une période d’environ onze semaines entre la mi-août et la fin octobre. Des entretiens avec des employés ont aussi été menés. METR affirme que son évaluation a porté sur deux questions principales : le taux de croissance des capacités internes d’Anthropic s’est-il accéléré, et dans quelle mesure cette accélération est-elle attribuable à l’intelligence artificielle.
Le groupe indique avoir reçu un accès sans précédent aux données internes sur le processus de recherche et développement en IA d’Anthropic. Des caviardages apportés par Anthropic au rapport ont toutefois limité la capacité de METR à communiquer des estimations détaillées sur l’accélération.
Des désaccords internes et des incertitudes ont aussi existé au sein de l’équipe de METR, mais le groupe affirme croire que le taux d’amélioration de l’entreprise a doublé.
Un rapport parsemé de mises en garde
METR reconnaît que ses conclusions pourraient être exagérées. L’accélération constatée pourrait en effet se limiter aux tâches bien spécifiques qui peuvent être notées automatiquement ou avec un modèle de langage, et non aux tâches complexes qui sont plus difficiles à définir. Il est également possible qu’Anthropic ait sous-estimé ses progrès antérieurs, ce qui rendrait les derniers chiffres plus impressionnants.
METR affirme avoir pu écarter avec certitude l’augmentation de la puissance de calcul utilisée pour entraîner les modèles d’IA comme cause de cette accélération. Traditionnellement, la quantité de puissance de calcul, appelée compute, est directement liée aux performances d’un modèle d’intelligence artificielle.
Les chercheurs indiquent que leur hypothèse principale est que cette amélioration est le résultat de l’utilisation de l’IA elle-même pour améliorer l’IA. Une inquiétude majeure, selon METR, est que l’utilisation de l’IA pour s’améliorer elle-même puisse commencer à amplifier l’accélération de manière exponentielle. Cette perspective est d’autant plus préoccupante que les chercheurs n’ont identifié aucun goulot d’étranglement, comme des restrictions en puissance de calcul ou en données, qui freinerait les progrès de l’IA d’Anthropic.
Le rapport précise que l’intelligence artificielle n’est pas encore capable de contribuer de manière totalement autonome et hautement significative aux parties les plus importantes du processus d’entraînement des modèles. Cependant, les chercheurs d’Anthropic ont décrit des signes significatifs qui laissent penser que cela pourrait arriver prochainement.
Dario Amodei a abordé cette question dans son essai de septembre. Il a déclaré que les avancées en IA étaient principalement portées par le concept d’amélioration récursive de soi, qu’il a défini comme la capacité croissante de l’intelligence artificielle à construire la génération suivante d’IA.
Il a écrit que, sans contrôle, ce processus pourrait dépasser notre capacité à comprendre et à maîtriser ces systèmes, et qu’il doit donc être poursuivi avec une grande prudence. Dans ce même essai, Amodei a défendu l’idée d’intégrer des évaluateurs externes au sein des principaux laboratoires d’IA. Il a spécifiquement cité METR comme un évaluateur tiers approprié.