Tenga en cuenta que esta publicación está etiquetada como un rumor.
NVIDIA H100 con 64 GB y 94 GB de memoria
Se informa que NVIDIA agregará más opciones basadas en la arquitectura Hopper.
Según la actualización reciente de la lista de ID de dispositivos PCI, NVIDIA podría agregar más variantes del acelerador del centro de datos H100 Hopper. Uno de los colaboradores de la lista pública de ID de PCI afirma que se están trabajando modelos basados en SXM5 con 94 GB y 64 GB de memoria. El hecho de que estas tarjetas utilizarían el factor de forma SXM5 sugeriría que estamos buscando memoria HBM, posiblemente de diseño HBM3.
Sin embargo, la configuración de memoria de 94 GB es un poco inusual y no está claro cómo son HBM. pilas configuradas exactamente. Sin embargo, esta no es la primera tarjeta H100 que se lanza con 94 GB de memoria, ya que existe una H100 NVL (para modelos de idiomas grandes) con la misma configuración de memoria. NVIDIA no explicó cómo se logra la memoria de 94 GB, pero es probable que se deba a razones de producción y rendimiento de HBM. Puede ser más conveniente deshabilitar capas en la pila que toda la pila.
Opciones de NVIDIA H100 94/64GB, Fuente: lista PCI-ID
Además, se considera un modelo de 64 GB, que podría lograrse con cuatro de seis pilas con 16 GB de capacidad. Lo que esto significa esencialmente es que NVIDIA pronto podría tener cuatro opciones de memoria para su serie de GPU H100 y probablemente esa no sea la lista completa.
Vale la pena tener en cuenta que el H100 también se detectó con una capacidad de memoria aún mayor de 120GB. Sin embargo, hasta ahora, no hubo confirmación oficial o incluso una fuga de ID de PCI del controlador que confirmaría tal variante.
Fuente: Lista de ID de PCI
