Avis de l’éditeur : Une grande partie de l’attention dans les semi-conducteurs est sur les performances des puces, et donc pour beaucoup en dehors du processus, il peut être mystificateur de savoir pourquoi parfois une « meilleure » puce perd au profit d’une puce « plus faible ». Pour ne citer qu’un exemple, Intel vend toujours beaucoup de processeurs pour serveurs malgré leur mauvaise comparaison avec les dernières offres AMD ou Arm.
Cela dépend en grande partie de la structure du marché des centres de données, et c’est beaucoup plus compliqué que beaucoup ne le pensent. Ceci est important pour toute entreprise cherchant à exploiter ce marché, que ce soit avec un processeur ou le dernier accélérateur d’IA.
Le premier enjeu est que le marché du silicium des datacenters est fortement concentré entre dix clients – les « Super 7 » – Amazon, Google, Facebook, Microsoft, Baidu, Alibaba et Tencent, auxquels s’ajouteraient Oracle, JD.com et Apple. Ces entreprises consomment bien plus de 50 % des processeurs de qualité serveur du secteur et plus de 70 à 80 % des autres segments de silicium des centres de données.
Note de l’éditeur:
L’auteur invité Jonathan Goldberg est le fondateur de D2D Advisory, une société de conseil multifonctionnelle. Jonathan a développé des stratégies de croissance et des alliances pour des entreprises des secteurs de la téléphonie mobile, des réseaux, des jeux et des logiciels.
Au-delà de ces clients, le passage de l’informatique d’entreprise au cloud laisse un assortiment très fragmenté de petits clients – sociétés financières, laboratoires de recherche, quelques sociétés pétrolières et gazières et certaines des plus petites sociétés Internet.
Pour les grandes entreprises de semi-finis établies, c’est presque insurmontable. Ces entreprises doivent cibler les plus gros clients, tout ce qui se trouve en dessous du top dix est trop petit pour déplacer l’aiguille. De nombreuses startups de l’espace cherchent à commencer par les petits clients, qui peuvent fournir des revenus suffisants pour garder les lumières allumées et les VC intéressés, mais elles devront éventuellement percer dans la cour des grands.
Ces gros clients sont pleinement conscients de leur position sur le marché. De plus, ils font de gros chèques.
Ces gros clients sont pleinement conscients de leur position sur le marché. De plus, ils font de gros chèques. Ils obligent donc leurs fournisseurs à se qualifier. Cela commence des années avant qu’une puce ne soit réellement produite, car les concepteurs de puces sollicitent l’test de leurs clients sur les caractéristiques de la puce. Quelle quantité et quel type de mémoire le client utilisera-t-il ? Combien de canaux d’E/S ? etc. Ceci est suivi par des modèles montrant l’émulation de la conception de la puce, fonctionnant généralement sur des cartes FPGA. Une fois la conception finalisée, elle est envoyée à la fonderie pour la fabrication.
Ensuite, le vrai travail commence.
Les hyperscalers ont mis en place des processus de test rigoureux, avec leur propre ensemble d’acronymes déroutants. En règle générale, cela implique une poignée de puces avec lesquelles jouer en laboratoire. Viennent ensuite quelques dizaines – assez pour construire un rack de serveur fonctionnel. Tout cela prouve simplement que la puce fonctionne comme promis au stade de la conception.
La prochaine étape consiste à construire un système complet – quelques milliers de puces. À ce stade, les clients exécutent généralement de très près les performances réelles de leur logiciel de production. Cette étape est particulièrement pénible pour les concepteurs de puces car ils n’ont pas accès aux logiciels des clients et n’ont donc aucun moyen de tester les performances à l’avance.
À cette époque, les clients élaborent également des modèles sophistiqués de coût total de possession (TCO). Ceux-ci examinent les performances totales du système par rapport au coût non seulement des puces, mais également des autres éléments de leurs serveurs – mémoire, consommation d’énergie, besoins de refroidissement, etc.
Une réalité difficile sur ce marché est que si le processeur principal est la partie la plus importante de tout serveur, il ne représente généralement que 20 % du coût de ce serveur. Ces modèles déterminent en fin de compte les décisions d’achat du client.
Une réalité difficile sur ce marché est que si le processeur principal est la partie la plus importante de tout serveur, il ne représente généralement que 20 % du coût de ce serveur.
Pendant que tout cela se passe, la société de puces doit se démener. Lorsque la puce revient pour la première fois de la fonderie, elle peut avoir des bugs et le processus de fabrication doit être réglé pour un meilleur rendement. Donc, au début, il n’y a jamais assez de jetons pour tout le monde. Chaque client veut les essayer, obligeant le concepteur de puces à trier les priorités et à rationner l’approvisionnement. Lorsqu’il n’y a qu’une poignée de clients, cette étape comporte des risques considérables – aucun client n’a jamais l’impression d’avoir le support total du fournisseur.
Même si les volumes augmentent, de nouveaux problèmes surgissent. Le client ne veut pas acheter de puces, il veut acheter des systèmes complets. Les fabricants de puces doivent donc obtenir le support de l’écosystème ODM.
Ces entreprises doivent produire leur propre ensemble de conceptions – pour la carte et l’ensemble du rack – et celles-ci doivent également être évaluées. C’est une grande partie de l’endurance d’Intel – chaque ODM est prêt à faire ces conceptions pour eux car ils font probablement d’autres affaires (PC) avec Intel. Tout le monde doit lutter avec les plus petits ODM de la grande équipe de concepteurs « B » de l’ODM.
Du premier stylo au papier au premier bon de commande important, l’ensemble du processus peut prendre trois à quatre ans. Pas aussi douloureux que les cycles de conception automobile, mais à bien des égards encore plus difficiles.
Plus tôt cette semaine, nous parlions de la nouvelle selon laquelle Ampere vendait une version Developer Kit de ses dernières puces. Bien qu’Ampere soit encore minuscule par rapport à Intel, ils le font depuis assez longtemps pour avoir une certaine expérience de la navigation dans toutes les étapes ci-dessus.
Ces kits de développement sont un moyen intelligent d’élargir leur marché. Ampère est suffisamment petit pour que les petits clients comptent toujours pour eux. Cependant, ils ne sont pas encore assez grands pour fournir un support commercial complet à ces clients. Le kit de développement élargit le sommet de leur entonnoir de vente en permettant aux ingénieurs curieux de participer aux deux premières étapes du processus d’évaluation.
Rien de tout cela n’est facile, et ces complexités reposent toutes sur le défi de concevoir réellement une puce.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
