De nieuwe Compute Engine A3-supercomputers van Google Cloud zijn gebouwd voor de meest veeleisende modellen op het gebied van kunstmatige intelligentie (AI) en machine learning (ML), waarbij NVIDIA H100 Tensor Core GPU’s worden gecombineerd met de netwerkverbeteringen van Google.
Vergeleken met de nieuwe Compute Engine A3-supercomputers van Google Cloud. bedrijf A2 VM’s, claimt Google tot 10x meer netwerkbandbreedte met lage latenties en verbeterde stabiliteit. Hoe heeft het dit bereikt? De nieuwe A3-supercomputers die NVIDIA H100 GPU’s gebruiken, zijn de eersten die gebruikmaken van de op maat ontworpen 200 Gbps IPU’s van Google, waarbij GPU-gegevens de CPU-host omzeilen op een aparte interface in vergelijking met ander VM-netwerk en dataverkeer.
Zoals met alle andere VM-netwerken en dataverkeer. dingen supercomputing en cutting-edge AI-gebaseerde, schaalbaarheid stelt tienduizenden onderling verbonden GPU’s in staat om te werken met een”workloadbandbreedte die niet te onderscheiden is van duurdere kant-en-klare niet-blokkerende netwerkfabrics.”
Indrukwekkende dingen. Hier volgt een overzicht van de functies van de nieuwe A3-supercomputers van Google.
8 H100 GPU’s die gebruikmaken van NVIDIA’s Hopper-architectuur, leveren 3x snellere verwerkingscapaciteit 3,6 TB/s bisectionele bandbreedte tussen de 8 GPU’s van A3 via NVIDIA NVSwitch en NVLink 4.0 Volgende generatie 4e Generatie Intel Xeon schaalbare processors 2 TB hostgeheugen via 4800 MHz DDR5 DIMM’s 10x grotere netwerkbandbreedte aangedreven door onze hardware-enabled IPU’s, gespecialiseerde inter-server GPU-communicatiestack en NCCL-optimalisaties
Deze aankondiging versterkt ook de samenwerking tussen Google en NVIDIA met betrekking tot AI en cloud-based computing.
“De A3 VM’s van Google Cloud, aangedreven door NVIDIA H100 GPU’s van de volgende generatie, zullen de training en bediening van generatieve AI-applicaties versnellen”, aldus Ian Buck, vice-president van hyperscale en high-performance computing bij NVIDIA.”Na de onlangs gelanceerde G2-instanties van Google Cloud zijn we er trots op dat we ons werk met Google Cloud kunnen voortzetten om bedrijven over de hele wereld te helpen transformeren met een speciaal gebouwde AI-infrastructuur.”