En un mot: Intel a réfuté les affirmations d’AMD selon lesquelles ses processeurs Epyc « Turin » de 5e génération offrent un traitement de l’IA plus rapide que les puces Xeon de 5e génération. Selon Intel, ses processeurs Xeon Platinum 8529+ à 64 cœurs peuvent surpasser les derniers processeurs de centre de données à 128 cœurs d’AMD dans les mêmes charges de travail avec les bonnes optimisations.
La déclaration d’Intel intervient quelques jours seulement après qu’AMD a dévoilé ses processeurs Epyc de 5e génération avec jusqu’à 195 cœurs Zen 5 au Computex 2024. Devrait être commercialisée dans le cadre de la famille Epyc 9005, la nouvelle gamme offrira une gamme diversifiée de processeurs conçus pour le calcul. , les charges de travail cloud, de télécommunications et de périphérie.
Bien que les puces ne devraient pas arriver sur le marché avant la fin de cette année, AMD a présenté des tests de référence suggérant qu’elles seront plus rapides que la famille Emerald Rapids d’Intel dans les charges de travail de débit d’IA.
Alors qu’AMD affirme qu’une paire de ses processeurs Epyc Turin peut être jusqu’à 5,4 fois plus rapide qu’une paire de processeurs Intel Xeon Platinum 8592+ lors de l’exécution d’un chatbot basé sur Llama 2, Intel affirme que les benchmarks présentés par Team Red offrent une comparaison injuste. Selon Intel, AMD n’a pas divulgué la configuration logicielle utilisée pour ces tests, et ses propres tests montrent que les puces Xeon sont plus rapides que les processeurs Epyc pour la même tâche.
Selon les benchmarks d’AMD, deux de ses processeurs Epyc de 5e génération dans une configuration à double socket avec 128 cœurs chacun offrent jusqu’à 671 jetons par seconde de performances dans Llama 2-7B, tandis que les puces Intel Xeon Platinum 8592+ de 5e génération avec 64 les cœurs fonctionnant dans un mode double socket similaire n’offraient que 125 jetons par seconde.
Cependant, Intel a répété les mêmes tests en utilisant son extension Intel pour PyTorch (latence P99), et les résultats étaient radicalement différents. Lors de ces tests, la sortie de 686 jetons par seconde des Xeons était 5,4 fois plus rapide que celle présentée par AMD.
Intel a également affirmé que dans les charges de travail de traduction et de synthèse, ses puces Xeon offraient des performances 1,2x et 2,3x plus rapides par rapport aux références présentées par AMD au Computex. AMD avait affirmé que Turin était 2,5 fois et 3,9 fois plus rapide que le Xeon de 5e génération dans ces charges de travail.
Il peut être un peu déroutant de passer au crible les réclamations et les demandes reconventionnelles des deux majors des puces, mais les références fournies par les deux sont probablement exactes, selon la façon dont vous les regardez. Bien que les tests d’AMD soient probablement valables pour une configuration naïve de Llama-7B, Intel a tout à fait le droit de souligner que personne n’est susceptible d’utiliser son hardware sans l’extension Intel pour PyTorch, qui offre une amélioration significative des performances réelles pour Charges de travail de l’IA.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
