Bild: NVIDIA
Ist NVIDIA eher ein Hardware-oder ein Softwareunternehmen? Wahrscheinlich Letzteres, so Manuvir Das, Head of Enterprise Computing bei NVIDIA, der gestern auf der Future Compute-Veranstaltung von MIT Technology Review sprach und erwähnte, dass „bei NVIDIA 20 % unserer Zeit mit der Hardware und 80 % unserer Zeit damit verbringen die Software.”Die Erklärung von Das kam am selben Tag, an dem NVIDIA mit der Auslieferung des DGX H100 begann, a neues System zur Stromversorgung von KI-Anwendungen mit acht NVIDIA H100-GPUs mit 640 GB GPU-Speicher. Wie von John Carmack angemerkt, werden NVIDIAs H100-GPUs auf eBay.
Von einer NVIDIA Newsroom post:
Each NVIDIA H100 Tensor Core GPU in a Das DGX H100-System bietet im Durchschnitt etwa 6-mal mehr Leistung als frühere GPUs. Ein DGX H100 enthält acht davon, jedes mit einer Transformer Engine, die zur Beschleunigung generativer KI-Modelle entwickelt wurde.
Die acht H100-GPUs verbinden sich über NVIDIA NVLink zu einer riesigen GPU. Die Skalierung hört hier nicht auf: Unternehmen können Hunderte von DGX H100-Knoten mit einem KI-Supercomputer verbinden, indem sie NVIDIA Quantum InfiniBand mit ultraniedriger Latenz von 400 Gbit/s verwenden, doppelt so schnell wie frühere Netzwerke.
“At NVIDIA, wir verbringen 20 % unserer Zeit mit der Hardware und 80 % unserer Zeit mit der Software.
Wir arbeiten kontinuierlich an den Algorithmen, um zu verstehen, was unsere Hardware kann und was nicht Full-Stack-Problem.”
– Manuvir Das, Head of Enterprise Computing$NVDA … pic.twitter.com/zFM4XNbjVJ
— Simon Erickson (@7Innovator) 1. Mai 2023
Beteiligen Sie sich an der Diskussion zu diesem Beitrag in unseren Foren…
