AMD a febbraio ha rilasciato silenziosamente la versione 1.1 del suo Unified Inference Front-end”UIF”in fase di sviluppo che mira a essere la soluzione completa per l’inferenza AI dalle CPU alle GPU agli FPGA e altri IP dalla loro recente acquisizione di Xilinx.
L’AMD Unified Inference Frontend mira a essere la loro unica soluzione per l’inferenza attraverso il loro crescente spettro di hardware e per consolidare le piattaforme di elaborazione multiple precedenti. L’UIF di AMD mira a funzionare su processori AMD EPYC, processori AMD Ryzen, acceleratori AMD Instinct, obiettivi Xilinx Versal Advanced Compute Acceleration Platform (ACAP) e Xilinx FPGA. Con questa recente versione v1.1 è stato cablato il supporto per l’hardware AMD Instinct.
È stato solo di sfuggita che ho notato che UIF v1.1 è stato tranquillamente etichettato tre settimane fa senza attraversare il mio radar. Le note di rilascio di AMD UIF 1.1 menzionano semplicemente:
UIF 1.1 estende il supporto alle GPU AMD Instinct oltre alle CPU EPYC a partire da UIF 1.0. Attualmente, MIGraphX è la libreria di accelerazione per le GPU Instinct per Deep Learning Inference. UIF 1.1 fornisce 45 modelli ottimizzati per GPU Instinct e 84 per CPU EPYC. Lo strumento Vitis™ AI Optimizer viene rilasciato come parte dello stack Vitis AI 3.0. UIF Quantizer viene rilasciato nelle immagini PyTorch e TensorFlow Docker®. L’utilizzo di UIF Optimizer e Quantizer offre vantaggi in termini di prestazioni per i clienti durante l’esecuzione con i backend MIGraphX e ZenDNN rispettivamente per GPU Instinct e CPU EPYC. Questa versione aggiunge anche il backend MIGraphX per AMD Inference Server. Questo documento fornisce informazioni sul download, la creazione e l’esecuzione della versione UIF 1.1.
…
UIF 1.1 introduce anche strumenti per l’ottimizzazione dei modelli di inferenza. Il supporto GPU include la possibilità di utilizzare le GPU AMD per ottimizzare l’inferenza, nonché la possibilità di implementare l’inferenza utilizzando la piattaforma AMD ROCm™. Inoltre, UIF 1.1 ha ampliato il set di modelli disponibili per le CPU AMD e introduce nuovi modelli anche per le GPU AMD.
Il supporto della CPU per i processori Ryzen ed EPYC si basa su ZenDNN come fork di AMD del progetto oneDNN di Intel. Il supporto GPU utilizza la piattaforma di elaborazione GPU AMD ROCm esistente su cui Instinct è l’obiettivo principale e selezionate GPU Radeon.
Download e ulteriori dettagli sulla versione 1.1 di AMD UIF tramite GitHub.
