Gambar: NVIDIA
Apakah NVIDIA lebih merupakan perusahaan perangkat keras atau perangkat lunak? Mungkin yang terakhir, menurut Manuvir Das, Head of Enterprise Computing di NVIDIA, yang berbicara di acara Future Compute MIT Technology Review kemarin dan menyebutkan bahwa “di NVIDIA, kami menghabiskan 20% waktu kami untuk perangkat keras dan 80% waktu kami untuk perangkat lunak.” Pernyataan Das datang pada hari yang sama ketika NVIDIA mulai mengirimkan DGX H100, sebuah sistem baru untuk menjalankan aplikasi AI yang menampilkan delapan GPU NVIDIA H100 dengan memori GPU 640 GB. Seperti dicatat oleh John Carmack, GPU NVIDIA H100 dijual seharga $45.000 di eBay.
Dari NVIDIA Newsroom posting:
Setiap NVIDIA H100 Tensor Core GPU dalam Sistem DGX H100 memberikan rata-rata sekitar 6x lebih banyak kinerja daripada GPU sebelumnya. DGX H100 mengemas delapan di antaranya, masing-masing dengan Mesin Transformer yang dirancang untuk mempercepat model AI generatif.
Delapan GPU H100 terhubung melalui NVIDIA NVLink untuk membuat satu GPU raksasa. Penskalaan tidak berhenti di situ: organisasi dapat menghubungkan ratusan node DGX H100 ke superkomputer AI menggunakan NVIDIA Quantum InfiniBand dengan latensi sangat rendah 400 Gbps, dua kali kecepatan jaringan sebelumnya.
“At NVIDIA, kami menghabiskan 20% waktu kami untuk perangkat keras dan 80% waktu kami untuk perangkat lunak.
Kami terus mengerjakan algoritme, untuk memahami apa yang dapat dan tidak dapat dilakukan oleh perangkat keras kami. AI adalah sebuah masalah tumpukan penuh.”
– Manuvir Das, Kepala Komputasi Perusahaan$NVDA … pic.twitter.com/zFM4XNbjVJ
— Simon Erickson (@7Innovator) 1 Mei 2023
Bergabunglah dalam diskusi untuk postingan ini di forum kami…
