Além de lançar Bergamo e Genoa-X, o AI Day da AMD também apresentou as novas ofertas AMD-Pensando DPU e também apresentou mais de sua APU aceleradora Instinct MI300 de última geração.
O CEO do Hugging Face, Clément Delangue, também esteve no evento AMD AI Day para falar sobre a importância da ciência aberta e do código aberto no mundo da IA. A Hugging Face e a AMD também formaram uma parceria para garantir o suporte completo da AMD para seus softwares e modelos hospedados, CI/CD em hardware AMD, etc.
O AMD Instinct MI300A com 24 núcleos Zen 4, 128 GB de memória HBM3 e CDNA3 agora está sendo testado para os clientes. A AMD também anunciou o Instinct MI300X como uma versão somente de GPU do CDNA3 com 192 GB de memória HBM3 e focada em lidar com modelos de linguagem grandes.
O AMD Instinct MI300X foi demonstrado com o modelo de linguagem grande Falcon-40B em um único MI300X executado inteiramente na memória. Um único MI300X pode lidar com grandes modelos de linguagem de até aproximadamente 80 bilhões de parâmetros.
Lisa também apresentou a plataforma AMD Instinct com oito MI300X em uma plataforma de infraestrutura OCP e fornece 1,5 TB de memória HBM3 para lidar com LLMs AI muito grandes.
O Instinct MI300A está sendo amostrado desde o início deste trimestre para clientes HPC/AI. O MI300X e a plataforma AMD Instinct iniciarão a amostragem no terceiro trimestre. A rampa de produção total é esperada no quarto trimestre.
