Nvidia Big accelerator Memory tech vise à établir un lien direct entre les GPU des centres de données et le stockage

Nvidia Big Accelerator Memory Tech Vise à établir Un Lien

Bottom line: Big accelerator Memory (BaM) est une architecture nouvellement développée par Nvidia, réalisée en collaboration avec IBM et plusieurs universités américaines. La technologie vise à améliorer les performances du centre de données en donnant aux applications accélérées par GPU un accès direct à de grandes quantités de stockage SSD, en contournant le besoin d’un processeur à usage général.

L’équipe de recherche derrière BaM note l’utilisation accrue des GPU dans les centres de données modernes pour leur bande passante mémoire élevée et leurs capacités de calcul. Cependant, ils affirment que le modèle traditionnel d’exécution des applications et des charges de travail a impliqué une approche centrée sur le processeur, ce qui peut entraîner une surcharge excessive et des goulots d’étranglement d’E/S entre les composants.

Avec BaM, les applications accélérées par GPU telles que l’analyse et les charges de travail d’IA comme l’apprentissage automatique et la formation des réseaux de neurones pourraient voir un avantage significatif en termes de performances en termes de transferts de données en retirant le CPU de l’équation et en permettant au GPU de lire et d’écrire directement de petites quantités. de données vers des SSD NVMe à la demande.

Comme le rapporte The Register, l’architecture BaM est composée de deux parties principales. Le premier est un cache de mémoire GPU géré par logiciel et le second est une bibliothèque logicielle pour le GPU qui lui permet de communiquer directement avec le stockage NVMe et de demander des données en utilisant un pilote de noyau Linux personnalisé, des interfaces RDMA et PCIe.

Nvidia Big accelerator Memory tech vise a etablir un lien

Les chercheurs ont également démontré la viabilité de BaM avec un prototype alimenté par Linux et des GPU et des SSD NVMe prêts à l’emploi. Certains des avantages observés à ce stade incluent une meilleure synchronisation et une utilisation efficace de la bande passante d’E/S, ainsi qu’un accès au stockage parallélisé.

Bien que destinée aux entreprises/entreprises, l’API BaM pourrait également bénéficier aux SSD grand public, selon les chercheurs, en offrant des performances compétitives par rapport aux solutions DRAM uniquement beaucoup plus chères. Bien que la technologie sous-jacente et les cas d’utilisation soient différents, BaM semble être une implémentation GPU/SSD similaire à celle du DirectStorage pour PC récemment publié par Microsoft.