Veuillez noter que ce message est marqué comme une rumeur.
NVIDIA H100 avec 64 Go et 94 Go de mémoire
NVIDIA ajouterait plus d’options basées sur l’architecture Hopper.
Selon la récente mise à jour de la liste des ID de périphériques PCI, NVIDIA pourrait ajouter d’autres variantes de l’accélérateur de centre de données H100 Hopper. L’un des contributeurs à la liste publique des ID PCI affirme que des modèles basés sur SXM5 sont en cours d’élaboration avec 94 Go et 64 Go de mémoire. Le fait que ces cartes utilisent le facteur de forme SXM5 suggérerait que nous examinons la mémoire HBM, éventuellement de conception HBM3.
Néanmoins, la configuration de la mémoire de 94 Go est un peu inhabituelle, et on ne sait pas comment HBM est piles configurées exactement. Cependant, ce n’est pas la première carte H100 à être lancée avec 94 Go de mémoire, car il existe un H100 NVL (pour Large Language Models) avec la même configuration de mémoire. NVIDIA n’a pas expliqué comment la mémoire de 94 Go est obtenue, mais cela est probablement dû à la production HBM et à des raisons de rendement. Il peut être plus pratique de désactiver les couches dans la pile que l’ensemble de la pile.
Options NVIDIA H100 94/64 Go, Source: liste PCI-ID
De plus, un modèle de 64 Go est envisagé, ce qui pourrait être réalisé avec quatre piles sur six d’une capacité de 16 Go. Cela signifie essentiellement que NVIDIA pourrait bientôt avoir quatre options de mémoire pour sa série de GPU H100 et ce n’est probablement pas la liste complète.
Il convient de garder à l’esprit que le H100 a également été repéré avec une capacité de mémoire encore plus élevée de 120 Go. Jusqu’à présent, il n’y avait aucune confirmation officielle ou même une fuite d’ID PCI de pilote qui confirmerait une telle variante. )PCIe Gen5 x162324H800 (Chine)SXM52330H100 80GB2331H100PCIe Gen5 x162336H100 80/96GBSXM52337H100 64GBSXM52339H100 94GBSXM5233AH800L 94GB (Chine)SXM5233dH100 96GBSXM5????H100 120GBPCIe Gen5 x16
Source : Liste des identifiants PCI