AMD Instinct MI300X, potężne narzędzie dla dużych modeli językowych sztucznej inteligencji
AMD ujawnia, ile mocy wymaga MI300X.
Projekt procesora graficznego MI300X oparty na OAM (moduł akceleratora OCP) jest wymieniony na slajdach AMD z mocą 750 W. Nie wspomniano o tym we wczesnych raportach dotyczących dnia wprowadzenia na początku tego tygodnia. Te wymagania dotyczące zasilania płyty głównej zostały zauważone w przypisach po wydarzeniu.
AMD opracowało specjalną wersję swojego akceleratora serii MI300 wyłącznie z płytkami CDNA3. Ten akcelerator będzie oferowany wraz z MI300A, tak zwanym eksaskalowym procesorem APU do centrów danych, który zawiera 24 rdzenie Zen4 połączone z kafelkami GPU.
MI300X ma zwiększoną liczbę kafelków rdzeni GPU i ma więcej pamięci (192 GB) dzięki niedawno wprowadzone stosy HBM3 o pojemności 24 GB. Surowa moc GPU w połączeniu z dużą ilością pamięci przyczyniła się do zwiększenia mocy, sięgającej obecnie 750 W dla jednego modułu OAM. To więcej niż MI250X ostatniej generacji (CDNA2), który osiągnął tylko 560 W.
Instinct MI300WX TBP, źródło: AMD
W przeszłości W ciągu kilku lat wymagania dotyczące zasilania dla produktów GPU dla centrów danych wzrosły. TDP procesora graficznego NVIDIA H100 SXM wzrasta do 700 W i 350 W dla wersji chłodzonej powietrzem PCIe. Wersja PCIe procesora graficznego Intel Max 1550 Data Center GPU oparta na krzemie Ponte Vecchio również wymaga co najmniej 600 W mocy.
Nazwy wymagań dotyczących zasilania i projekty różnią się w zależności od producenta. Charakterystyki mocy, takie jak TDP, TBP lub Power Envelope, nie zawsze oznaczają to samo. Ale ważne jest to, że rywalizacja GPU w przestrzeni centrów danych dopiero się rozpoczęła, więc kto wie, czy wkrótce zobaczymy jeszcze wyższe specyfikacje mocy wymienione na oficjalnych slajdach.
Źródło: AMD przez Hoang Anh Phu