AMD 在 2 月悄悄發布了他們正在開發的統一推理前端“UIF”的 1.1 版，旨在成為他們從 CPU 到 GPU 再到 FPGA 和最近收購的 Xilinx 的其他 IP 的 AI 推理的全能解決方案。
AMD 統一推理前端的目標是成為他們在不斷增長的硬件範圍內進行推理的單一解決方案，並整合先前的多個不同計算平台。 AMD UIF 旨在跨 AMD EPYC 處理器、AMD Ryzen 處理器、AMD Instinct 加速器、Xilinx Versal 高級計算加速平台 (ACAP) 目標和 Xilinx FPGA 工作。最近發布的 v1.1 版本支持 AMD Instinct 硬件。
我只是偶然注意到三週前 UIF v1.1 被悄悄標記了，而沒有引起我的注意。 AMD UIF 1.1 發行說明簡單地提到:
UIF 1.1 從 UIF 1.0 開始擴展了對 AMD Instinct GPU 以及 EPYC CPU 的支持。目前，MIGraphX 是用於深度學習推理的 Instinct GPU 的加速庫。 UIF 1.1 為 Instinct GPU 提供了 45 個優化模型，為 EPYC CPU 提供了 84 個優化模型。 Vitis™ AI Optimizer 工具作為 Vitis AI 3.0 堆棧的一部分發布。 UIF Quantizer 在 PyTorch 和 TensorFlow Docker® 鏡像中發布。當分別為 Instinct GPU 和 EPYC CPU 使用 MIGraphX 和 ZenDNN 後端運行時，利用 UIF 優化器和量化器可為客戶帶來性能優勢。此版本還為 AMD 推理服務器添加了 MIGraphX 後端。本文檔提供有關下載、構建和運行 UIF 1.1 版本的信息。
…
UIF 1.1 還引入了用於優化推理模型的工具。 GPU 支持包括使用 AMD GPU 優化推理的能力，以及使用 AMD ROCm™ 平台部署推理的能力。此外，UIF 1.1 擴展了適用於 AMD CPU 的模型集，並引入了適用於 AMD GPU 的新模型。
CPU 對 Ryzen 和 EPYC 處理器的支持依賴於 ZenDNN 作為 AMD 對英特爾 oneDNN 項目的分支。 GPU 支持利用現有的 AMD ROCm GPU 計算平台，Instinct 是主要關注點，並選擇 Radeon GPU。
通過 GitHub 下載有關 AMD UIF 1.1 版本的更多詳細信息。
