この投稿は噂としてタグ付けされていることに注意してください。
64 GB および 94 GB メモリを搭載した NVIDIA H100
NVIDIA は、Hopper アーキテクチャに基づいてさらに多くのオプションを追加していると伝えられています。
PCI デバイス ID リストの最近の更新によると、NVIDIA は H100 Hopper データセンター アクセラレータのバリエーションをさらに追加する可能性があります。公開 PCI ID リストの寄稿者の 1 人は、94GB および 64GB のメモリを搭載した SXM5 ベースのモデルが開発中であると主張しています。これらのカードが SXM5 フォーム ファクタを利用しているという事実は、おそらく HBM3 設計の HBM メモリを検討していることを示唆しています。
それにもかかわらず、94 GB のメモリ構成は少し特殊であり、HBM がどのように動作するかは不明です。スタックが正確に構成されています。ただし、同じメモリ構成の H100 NVL (大規模言語モデル用) があるため、これが 94 GB のメモリを搭載して発売される最初の H100 カードではありません。 NVIDIA は 94GB メモリがどのようにして実現されたのかについては説明していませんが、おそらく HBM の製造と歩留まりの理由によるものと考えられます。スタック全体を無効にするよりも、スタック内のレイヤーを無効にする方が便利な場合があります。
NVIDIA H100 94/64GB オプション、出典: PCI-ID リスト
さらに、64GB モデルも検討されており、これは 16GB の容量を備えた 6 つのスタックのうち 4 つで実現できます。これは本質的に、NVIDIA が H100 GPU シリーズに間もなく 4 つのメモリ オプションを用意する可能性があることを意味しますが、これがすべてのリストではない可能性があります。
H100 にはさらに大きなメモリ容量も搭載されていることが判明したことを覚えておく価値があります。 120GB。ただし、これまでのところ、そのような亜種を確認するような正式な確認はなく、ドライバー PCI ID のリークさえありません。
出典: PCI ID リスト