AMD Instinct MI300X，AI 大型語言模型的強大引擎
AMD 披露了 MI300X 需要多少功率。
MI300X圖形處理器基於OAM（OCP加速器模塊）的設計在AMD幻燈片上以750W列出。本週早些時候報導介紹日的早期報導沒有提到這一點。活動結束後的腳註中發現了此電路板功率要求。
AMD 專門使用 CDNA3 塊開發了其 MI300 系列加速器的特殊版本。該加速器將與 MI300A 一起提供，即所謂的數據中心 exascale APU，它具有 24 個 Zen4 內核和 GPU 塊。
MI300X 增加了 GPU 內核塊並具有更多內存 (192GB)，這要歸功於最近推出的 24GB HBM3 堆棧。原始 GPU 功率與大量內存相結合，有助於提高功率，現在一個 OAM 模塊達到 750W。這比上一代 (CDNA2) MI250X 僅上升到 560W 還要多。
Instinct MI300WX TBP，來源:AMD
過去幾年來，GPU 數據中心產品的功率要求不斷增加。 NVIDIA H100 SXM GPU TDP 高達 700W，PCIe 風冷版高達 350W。基於 Ponte Vecchio 矽的 Intel Max 1550 數據中心 GPU 的 PCIe 版本也需要至少 600W 的功率。
功率要求和設計的命名因製造商而異。 TDP、TBP 或 Power Envelope 等功率特性可能並不總是意味著相同的事情。但重要的是，數據中心領域的 GPU 競爭才剛剛開始，所以誰知道我們是否會很快在官方幻燈片上看到更高的功率規格。
資料來源:AMD通過 Hoang Anh Phu