A NVIDIA acaba de anunciar seu novo servidor DGX Station 320G AI baseado no GPUs Ampere A100 Tensor Core O DGX Station 320G apresenta as GPUs NVIDIA A100 Tensor Core atualizadas, que embalam o dobro da memória e vários Petaflops de potência AI à sua disposição.
NVIDIA lança servidor DGX Station 320G AI com memória de 320 GB, CPU AMD EPYC de 64 núcleos e GPUs Quad NVIDIA Ampere A100
O NVIDIA DGX Station 320G é voltado para o mercado de IA, acelerando o aprendizado de máquina e o desempenho da ciência de dados para escritórios corporativos, instalações de pesquisa, laboratórios ou escritórios domésticos em qualquer lugar. De acordo com a NVIDIA, o DGX Station 320G foi projetado para ser o servidor mais rápido em uma caixa dedicada à pesquisa de IA.
O DGX Station 320G da NVIDIA impulsiona a inovação em IA Organizações em todo o mundo adotaram o DGX Station para impulsionar IA e ciência de dados em setores como educação, serviços financeiros, governo, saúde e varejo. Esses líderes de IA incluem:
- A produção do BMW Group está usando as estações NVIDIA DGX para explorar insights mais rapidamente à medida que desenvolvem e implantam modelos de IA que melhoram as operações.
- DFKI, o Centro Alemão de Pesquisa de Inteligência Artificial, está usando a Estação DGX para construir modelos que enfrentam desafios críticos para a sociedade e a indústria, incluindo sistemas de visão computacional que ajudam os serviços de emergência a responder rapidamente a desastres naturais.
- A Lockheed Martin está usando o DGX Station para desenvolver modelos de IA que usam dados de sensor e registros de serviço para prever a necessidade de manutenção para melhorar o tempo de atividade de fabricação, aumentar a segurança dos trabalhadores e reduzir custos operacionais.
- NTT Docomo, a operadora móvel líder do Japão com mais de 79 milhões de assinantes, usa a DGX Station para desenvolver serviços inovadores baseados em IA, como sua solução de reconhecimento de imagem.
- O Pacific Northwest National Laboratory está usando as estações NVIDIA DGX para conduzir pesquisas financiadas pelo governo federal em apoio à segurança nacional. Focado na inovação tecnológica em resiliência energética e segurança nacional, PNNL é um centro HPC líder nos EUA para descobertas científicas, resiliência energética, química, ciências da Terra e análise de dados.
Especificações do sistema NVIDIA DGX Station 320G
Chegando às especificações, o NVIDIA DGX Station 320G é alimentado por um total de quatro GPUs A100 Tensor Core. Essas não são apenas quaisquer GPUs A100, já que a NVIDIA atualizou as especificações originais, acomodando o dobro da memória.
As GPUs NVIDIA A100 Tensor Core no DGX Station A100 vêm embaladas com 80 GB de memória HBM2e, que é o dobro do tamanho da memória do A100 original. Isso significa que a Estação DGX tem um total de 320 GB de capacidade total disponível, ao mesmo tempo que oferece suporte total a MIG (protocolo de GPU de múltiplas instâncias) e suporte a NVLink de 3ª geração, oferecendo 200 GB/s de largura de banda bidirecional entre qualquer par de GPU e interconexão 3 vezes mais rápida velocidades do que PCIe Gen 4. O resto das especificações para as GPUs A100 Tensor Core permanecem as mesmas.
O próprio sistema abriga uma CPU AMD EPYC Rome 7742 64 Core com suporte total PCIe Gen 4, até 512 GB de memória de sistema dedicada, armazenamento SSD NVME M.2 de 1,92 TB para sistema operacional e até 7,68 TB NVME U. 2 armazenamento SSD para cache de dados. Para conectividade, o sistema carrega 2 controladores de LAN de 10 GbE, uma única porta de LAN de 1 GbE para gerenciamento remoto. A saída de vídeo é fornecida por meio de uma placa de adaptador de vídeo DGX discreta que oferece 4 saídas DisplayPort com suporte para resolução de até 4K. O AIC apresenta sua própria solução de resfriamento ativo.
Falando sobre a solução de resfriamento, o DGX Station 320G hospeda as GPUs A100 na parte traseira do chassi. Todas as quatro GPUs e a CPU são complementadas por um sistema de resfriamento por refrigerante silencioso e também livre de manutenção. O compressor do cooler está localizado dentro do chassi DGX. Todo o sistema é alimentado por uma fonte de alimentação de 1500W e o cooler opera em silenciosos 37db.
Desempenho do sistema NVIDIA DGX Station A100
Quanto ao desempenho, o DGX Station A100 oferece 2,5 Petaflops de potência de treinamento de IA e 5 PetaOPS de INT8 inferindo cavalos de força. O DGX Station A100 também é a única estação de trabalho de seu tipo a oferecer suporte ao protocolo MIG (Multi-Instance GPU), permitindo que os usuários dividam GPUs individuais, permitindo que cargas de trabalho simultâneas sejam executadas com mais rapidez e eficiência.
No Estação DGX original , a nova versão oferece um aumento de 3,17x no desempenho de treinamento, 4,35x no desempenho de inferência e 1,85x de aumento nas cargas de trabalho orientadas para HPC. A NVIDIA também atualizou seu sistema DGX A100 para incluir GPUs A100 Tensor Core de 80 GB. Isso permite que a NVIDIA obtenha um desempenho de treinamento 3 vezes mais rápido em relação ao sistema DGX A100 de 320 GB padrão, desempenho de inferência 25% mais rápido e desempenho de análise de dados duas vezes mais rápido.
Avançando IA com DGX SuperPOD
DGX SuperPODs são supercomputadores de IA com 20 ou mais NVIDIA DGX A100 sistemas e Rede NVIDIA InfiniBand HDR . Entre os últimos a implantar SuperPODs DGX para alimentar novas soluções e serviços de IA estão:
- Sony Group Corporation está usando DGX SuperPOD para permitir que sua equipe corporativa de pesquisa e desenvolvimento infunda IA em toda a empresa.
- NAVER , uma empresa líder em tecnologia de internet na Coréia e no Japão, está treinando modelos gigantes de IA em escala no DGX SuperPOD para ser pioneira em novos serviços em aplicativos de e-commerce, pesquisa, entretenimento e pagamento.
- Recursion , uma empresa de biologia digital que trabalha para industrializar a descoberta de medicamentos, está usando o DGX SuperPOD para acelerar seus modelos de aprendizado profundo e capacitar sua crescente força de trabalho de especialistas em aprendizado de máquina.
- MTS , a maior empresa de telecomunicações da Rússia, está usando seu DGX SuperPOD como base para sua infraestrutura de desenvolvimento pronta para IA e novas ofertas de serviço de nuvem pública, bem como para integrar IA e ciência de dados em seu departamentos.
- VinAI está usando seu DGX SuperPOD, que será classificado como o supercomputador de IA mais rápido do Vietnã, para acelerar iniciativas de IA, incluindo veículos autônomos, saúde e serviços ao consumidor, no sudeste da Ásia e em todo o mundo.
Disponibilidade do sistema NVIDIA DGX Station 320G
O NVIDIA DGX Station 320G estará disponível ainda este ano por um preço de $ 149.000 ou uma assinatura mensal de $ 9.000 por mês. NVIDIA DGX SuperPODs multi-tenant nativos da nuvem estarão disponíveis no segundo trimestre por meio de parceiros globais da NVIDIA, que podem fornecer preços para clientes qualificados mediante solicitação. O NVIDIA Base Command também estará disponível a partir do segundo trimestre.
A postagem NVIDIA DGX Station 320G apresenta GPUs Quad Ampere A100 com memória de 320 GB, 2,5 PFLOPs por US $ 149.000 por Hassan Mujtaba apareceu primeiro em Wccftech .
