AMD Instinct MI300X, una centrale elettrica per i modelli di linguaggio di grandi dimensioni IA
AMD rivela quanta potenza richiede l’MI300X.
Il design basato su OAM (OCP Accelerator Module) del processore grafico MI300X è elencato con 750 W sulle diapositive AMD. Ciò non è stato menzionato dai primi rapporti che coprivano il giorno dell’introduzione all’inizio di questa settimana. I requisiti di alimentazione di questa scheda sono stati individuati nelle note a piè di pagina dopo l’evento.
AMD ha sviluppato una versione speciale del suo acceleratore della serie MI300 esclusivamente con tessere CDNA3. Questo acceleratore sarà offerto insieme a MI300A, la cosiddetta APU data center exascale, che presenta 24 core Zen4 combinati con tile GPU.
L’MI300X ha un numero maggiore di tile core GPU e ha più memoria (192 GB) grazie a gli stack HBM3 da 24 GB recentemente introdotti. La pura potenza della GPU combinata con molta memoria ha contribuito a una maggiore potenza che ora raggiunge i 750 W per un modulo OAM. Questo è più dell’MI250X di ultima generazione (CDNA2) che arrivava solo a 560 W.
Instinct MI300WX TBP, Fonte: AMD
Nel passato Alcuni anni, i requisiti di alimentazione per i prodotti per data center GPU sono aumentati. Il TDP della GPU NVIDIA H100 SXM arriva fino a 700 W e 350 W per la versione con raffreddamento ad aria PCIe. Anche la versione PCIe della GPU Intel Max 1550 Data Center basata su silicio Ponte Vecchio richiede almeno 600 W di potenza.
La denominazione dei requisiti di alimentazione e dei design varia a seconda del produttore. Le caratteristiche di potenza come TDP, TBP o Power Envelope potrebbero non significare sempre la stessa cosa. Ma la cosa importante è che la rivalità delle GPU nello spazio dei data center è appena iniziata, quindi chissà se vedremo presto specifiche di potenza ancora più elevate elencate nelle diapositive ufficiali.
Fonte: AMD tramite Hoang Anh Phu