AMD Instinct MI300X, een krachtpatser voor AI-modellen met grote talen
AMD onthult hoeveel stroom de MI300X nodig heeft.
Het OAM-gebaseerde (OCP Accelerator Module) ontwerp van de MI300X grafische processor wordt vermeld met 750W op AMD-dia’s. Dit werd niet genoemd in vroege rapporten over de introductiedag eerder deze week. Deze vermogensvereisten voor het bord werden na het evenement in de voetnoten opgemerkt.
AMD ontwikkelde een speciale versie van zijn MI300-serie versneller, exclusief met CDNA3-tegels. Deze accelerator wordt aangeboden naast MI300A, de zogenaamde datacenter exascale APU, die 24 Zen4-cores combineert met GPU-tegels.
De MI300X heeft meer GPU-core-tiles en heeft meer geheugen (192GB) dankzij de onlangs geïntroduceerde 24GB HBM3-stacks. Ruwe GPU-kracht in combinatie met veel geheugen hebben bijgedragen aan een hoger vermogen dat nu 750 W bereikt voor één OAM-module. Dit is meer dan de laatste generatie (CDNA2) MI250X die maar tot 560W ging.
Instinct MI300WX TBP, Bron: AMD
In het verleden paar jaar zijn de stroomvereisten voor GPU-datacenterproducten toegenomen. NVIDIA H100 SXM GPU TDP gaat tot 700W en 350W voor de PCIe luchtgekoelde versie. De PCIe-versie van Intel Max 1550 Data Center GPU op basis van Ponte Vecchio-silicium vereist ook minimaal 600 W stroom.
De naamgeving van stroomvereisten en ontwerpen varieert afhankelijk van de fabrikant. Vermogenskenmerken zoals TDP, TBP of Power Envelope betekenen niet altijd hetzelfde. Maar het belangrijkste is dat de GPU-rivaliteit in de datacenterruimte nog maar net is begonnen, dus wie weet of we binnenkort nog hogere vermogensspecificaties op officiële dia’s zullen zien.
Bron: AMD via Hoang Anh Phu
