Le prochain modèle d’IA de Meta nécessitera presque 10 fois plus de puissance

Le Prochain Modele Dia De Meta Necessitera Presque 10 Fois.jpg

Meta, la maison mère de Facebook, maintient un investissement significatif dans la recherche en intelligence artificielle, anticipant un parcours long avant de voir des bénéfices. Malgré des dépenses conséquentes, les dirigeants affirment que la flexibilité de l’infrastructure permettra d’optimiser les capacités au gré des avancées technologiques.

La société mère de Facebook, Meta, continuera d’investir massivement dans ses efforts de recherche en intelligence artificielle, même si les dirigeants de l’entreprise ont souligné, lors de l’appel sur les résultats du deuxième trimestre, que cette technologie émergente nécessitera plusieurs années de travail avant de devenir rentable.

« Nous anticipons les clusters de calcul et les données nécessaires pour les prochaines années », a déclaré le PDG Mark Zuckerberg lors de l’appel. Selon lui, Meta aura besoin d’un « volume de calcul… presque dix fois supérieur à celui utilisé pour entraîner Llama 3 ». Il a ajouté que Llama 4 sera « le modèle le plus avancé de l’industrie l’année prochaine ». Pour référence, le modèle Llama 3 a été entraîné sur un cluster de 16 384 GPU Nvidia H100 de 80 Go.

L’entreprise n’est pas étrangère au financement de projets de recherche et développement ambitieux. Les résultats financiers de Meta pour le deuxième trimestre indiquent que la société prévoit de dépenser entre 37 et 40 milliards de dollars en investissements d’ici 2024, et les dirigeants anticipent une augmentation « significative » de ces dépenses l’année suivante. « Il est difficile de prédire comment cela évoluera sur plusieurs générations », a commenté Zuckerberg. « À ce stade, je préfère prendre le risque de construire des capacités avant qu’elles ne soient nécessaires plutôt que trop tard, étant donné les longs délais pour lancer de nouveaux projets d’inférence. »

Et il n’est pas dit que Meta manque de ressources financières. Avec environ 3,27 milliards d’utilisateurs actifs d’au moins une application Meta chaque jour, l’entreprise a généré un chiffre d’affaires de plus de 39 milliards de dollars au deuxième trimestre, soit une hausse de 22 % par rapport à l’année précédente. De ce montant, elle a réalisé environ 13,5 milliards de dollars de bénéfices, ce qui représente une augmentation de 73 % d’une année sur l’autre.

Cependant, même si Meta est bénéficiaire, cela ne signifie pas que ses efforts en IA soient rentables. La CFO Susan Li a reconnu que son IA générative ne rapportera pas de revenus cette année, précisant que les retours sur ces investissements « s’étendront sur une période plus longue ». Malgré tout, l’entreprise « continue de construire notre infrastructure IA en gardant à l’esprit la flexibilité, afin de pouvoir ajuster la capacité là où elle sera le plus utile. »

Li a également mentionné que les clusters d’entraînement existants peuvent facilement être réajustés pour réaliser des tâches d’inférence, qui devraient constituer la majorité de la demande en calcul à mesure que la technologie évolue et que de plus en plus de personnes commencent à utiliser ces modèles quotidiennement.

« En augmentant la capacité d’entraînement de l’IA générative pour faire avancer nos modèles de base, nous continuerons à développer notre infrastructure de manière à nous offrir la flexibilité d’utilisation dans le temps. Cela nous permettra d’orienter la capacité d’entraînement vers l’inférence de l’IA générative ou nos travaux principaux de classement et de recommandation, lorsque nous pensons que cela est plus précieux », a-t-elle déclaré lors de l’appel sur les résultats.