Les récents résultats des accélérateurs AMD Instinct MI300X lors du test MLPerf 4.1 révèlent des performances impressionnantes dans le domaine de l’intelligence artificielle. Alors que des doutes entouraient initialement ces GPU, les chiffres présentés par AMD soulignent leur potentiel. Une analyse approfondie des performances et des scénarios de test suit.
Les AMD Instinct MI300X ont été soumises au test MLPerf 4.1 où elles ont montré tout leur potentiel en matière d’IA
AMD a franchi une étape significative dans le domaine de l’intelligence artificielle avec le lancement de ses nouvelles accélérateurs Instinct MI300X. Ces GPU ont été présentés sur le marché en décembre dernier et, depuis, tant les utilisateurs que les médias spécialisés se posent des questions sur les performances de ces GPU dans les différentes évaluations de performance spécifiques comme MLPerf.
Tiny Corp, l’entreprise derrière le test MLPerf, a même indiqué dans une publication sur X qu’AMD avait refusé de faire participer ses accélérateurs à la prochaine série de résultats de ce test de performance. Cette situation a suscité des inquiétudes, les utilisateurs ont commencé à douter des données fournies par l’entreprise et la confiance dans les Instinct MI300X a commencé à s’effriter.
Maintenant, plusieurs semaines après cette interaction, AMD vient de présenter les résultats de ses accélérateurs Instinct MI300X dans MLPerf 4.1 et les chiffres corroborent toutes les attentes générées depuis la présentation de ces GPU. Ces résultats ont été dévoilés lors d’un événement privé auquel nous avons assisté, où AMD a expliqué en détail les capacités des Instinct MI300X.
AMD Instinct MI300X dans MLPerf 4.1 : voici les premiers résultats
Avant d’entrer dans le vif du sujet avec les informations fournies par AMD, il est nécessaire de souligner que les tests ont été effectués dans MLPerf 4.1, la version la plus récente de MLPerf. De plus, le modèle de langage utilisé est LLaMA2-70B, qui est l’un des plus complexes et avancés dans le secteur de l’IA.
Pour évaluer les accélérateurs d’IA d’AMD, deux scénarios ont été générés. Le premier est axé sur la vérification du rendement hors ligne, visant à examiner le comportement lors du traitement du plus grand nombre de tokens par seconde, tandis que le second environnement fait référence à un usage en serveur.
Accélérateurs Instinct MI300X d’AMD lors des tests MLPerf 4.1 / Image : AMD
Ce milieu en ligne a pour but de montrer le comportement des Instinct MI300X dans des situations où la latence est un facteur limitant. En plus des accélérateurs, des processeurs EPYC Genoa et Turing ont été utilisés, servant de facteur supplémentaire à prendre en compte lors de l’évaluation des capacités de traitement.
En fait, AMD indique elle-même qu’en changeant d’un processeur à un autre, une augmentation de performance de 25 % se manifeste. Cependant, ils ont communiqué qu’ils ont encore besoin de réaliser d’autres tests pour déterminer la ou les raisons exactes derrière ce comportement si drastique lors de la fourniture des résultats.
Les comparaisons ont été réalisées avec un concurrent direct, le NVIDIA DGX H100 avec des processeurs Intel Xeon. La concurrence pour offrir le meilleur rendement est féroce, en effet, il est possible de voir sur les graphiques que les résultats ne montrent pas de différences abyssales.