NVIDIA A2 é um acelerador de baixa potência para AI
Hoje a NVIDIA lança seu acelerador de interferência de borda de nível básico.
A NVIDIA continua adicionando mais SKUs à sua linha de Amperes para data centers. As séries que chamávamos de “Tesla” agora usam uma nomenclatura muito mais simples, embora muito mais confusa. O A2 Tensor Core é o acelerador básico com GPU Ampere GA107 de 8 nm com 1280 núcleos CUDA, metade do que o processador oferece em uma versão full-fat.
O A2 tem muito em comum com o A16 , que é baseado em quatro GPUs GA107. Ambos os aceleradores têm memória GDDR6 de 16 GB na interface de 128 bits, exceto para cada GPU. Dito isso, o A16 oferece 64 GB de memória, mas também consome muito mais energia: 250W. O A2, por outro lado, é uma solução muito eficiente em termos de energia com TBP em 60W no máximo, mas a GPU também pode ser configurada para 40W. Portanto, não requer alimentação externa.
Com um clock base de 1440 MHz e um clock de reforço de 1770 MHz, a GPU oferece até 4,5 TFLOPS de potência de computação de precisão simples. Na verdade, isso é ainda menos do que NVIDIA GeForce RTX 3050 Ti para dispositivos móveis com 7.1 TFLOPs, mas a GPU para jogos tem 2.048 núcleos CUDA.
Especificações do núcleo do tensor NVIDIA A2, Fonte: NVIDIA
O acelerador está sendo comparado ao Turing T4 básico, que era o acelerador mais lento da geração anterior. De acordo com a NVIDIA, será de 20 a 30% mais rápido que o T4 em casos de uso de borda inteligente. Também oferece 60% melhor preço para desempenho e 10% melhor eficiência de energia em comparação com o T4.
O A2 é um acelerador sem comando que não pode ser usado para jogos, a menos que seja usado em um ambiente de máquina virtual. Ele é otimizado para cargas de trabalho de inferência de IA. Ele foi projetado para ser uma GPU de servidor econômica e altamente compatível, graças ao seu design passivo e de slot único. A NVIDIA não revela publicamente os preços de sua GPU de servidor, como a A2, mas a empresa confirmou que agora está disponível para parceiros OEM.