NVIDIA A100 80GB PCIe Accelerator Diluncurkan – Ampere Unggulan Mendapat Bandwidth 2 TB/dtk Untuk Sistem HGX A100 Baru

NVIDIA memiliki mengumumkan bahwa peluncuran hari ini sistem HGX A100 baru yang menggabungkan akselerator GPU PCIe A100 yang diperbarui dengan memori dua kali lipat & bandwidth lebih cepat untuk pengguna HPC.

NVIDIA Meningkatkan Sistem HGX A100 Dengan Akselerator GPU HPC A100 Berbasis Ampere Unggulan-Memori HBM2e 80 GB & Bandwidth 2 TB/dtk

Akselerator NVIDIA A100 HPC yang ada diperkenalkan tahun lalu pada bulan Juni dan sepertinya tim hijau berencana untuk memberikan peningkatan spesifikasi utama. Chip ini didasarkan pada GPU Ampere terbesar NVIDIA, A100, yang berukuran 826mm2 dan menampung 54 miliar transistor. NVIDIA memberikan peningkatan spesifikasi pada akselerator HPC selama pertengahan siklus, yang berarti bahwa kita akan mendengar tentang akselerator generasi berikutnya di GTC 2022.

NVIDIA Menyiapkan GPU PCIe Ampere A100 Dengan Memori HBM2e 80 GB & Bandwidth Hingga 2 TB/s

GPU NVIDIA A100 Tensor Core menghadirkan akselerasi HPC yang belum pernah ada sebelumnya untuk menyelesaikan AI kompleks, analisis data, pelatihan model, dan tantangan simulasi yang relevan dengan HPC industri. GPU PCIe A100 80GB meningkatkan bandwidth memori GPU 25 persen dibandingkan dengan A100 40GB, menjadi 2TB/dtk, dan menyediakan memori bandwidth tinggi HBM2e 80GB.

Kapasitas memori A100 80GB PCIe yang sangat besar dan bandwidth memori yang tinggi memungkinkan lebih banyak data dan jaringan saraf yang lebih besar disimpan dalam memori, meminimalkan komunikasi internode dan konsumsi energi. Dikombinasikan dengan bandwidth memori yang lebih cepat, memungkinkan peneliti untuk mencapai throughput yang lebih tinggi dan hasil yang lebih cepat, memaksimalkan nilai investasi TI mereka.

A100 80GB PCIe ditenagai oleh arsitektur NVIDIA Ampere, yang menampilkan teknologi Multi-Instance GPU (MIG) untuk memberikan akselerasi untuk beban kerja yang lebih kecil seperti inferensi AI. MIG memungkinkan sistem HPC untuk menurunkan skala komputasi dan memori dengan kualitas layanan yang terjamin. Selain PCIe, ada konfigurasi NVIDIA HGX A100 empat dan delapan arah.

Dukungan partner NVIDIA untuk A100 80GB PCIe termasuk Atos, Cisco, Dell Technologies, Fujitsu, H3C, HPE, Inspur, Lenovo, Komputasi Penguin, QCT, dan Supermicro. Platform HGX yang menampilkan GPU berbasis A100 yang saling terhubung melalui NVLink juga tersedia melalui layanan cloud dari Amazon Web Services, Microsoft Azure dan Infrastruktur Oracle Cloud.

Dalam hal spesifikasi, akselerator GPU PCIe A100 tidak banyak berubah dalam hal konfigurasi inti. GPU GA100 mempertahankan spesifikasi yang kami lihat pada varian 250W dengan 6912 core CUDA yang disusun dalam 108 unit SM, 432 Tensor Cores, dan memori HBM2e 80 GB yang memberikan bandwidth lebih tinggi 2,0 TB/dtk dibandingkan dengan 1,55 TB/dtk pada varian 40 GB.

Gambar unggulan dari NVIDIA GA100 die.

Varian A100 SMX sudah dilengkapi dengan memori 80 GB tetapi tidak menampilkan HBM2e dies yang lebih cepat seperti varian A100 PCIe mendatang. Ini juga merupakan jumlah memori terbanyak yang pernah ditampilkan pada kartu grafis berbasis PCIe tetapi jangan berharap kartu grafis konsumen memiliki fitur kapasitas tinggi seperti itu dalam waktu dekat. Yang menarik adalah bahwa peringkat daya tetap tidak berubah, yang berarti bahwa kami mencari chip dengan kepadatan lebih tinggi untuk kasus penggunaan berkinerja tinggi.

Spesifikasi kartu grafis A100 PCIe 80 GB seperti yang tercantum di halaman web NVIDIA. (Kredit Gambar: Videocardz)

Kinerja FP64 masih dinilai pada 9,7/19,5 TFLOPs, kinerja FP32 dinilai pada 19,5/156/312 TFLOPs (Sparsity), kinerja FP16 dinilai pada 312/624 TFLOPs (Sparsity) dan INT8 dinilai pada 624/1248 TOP (Sparsitas). NVIDIA berencana untuk merilis akselerator HPC terbarunya minggu depan dan kami juga dapat memperkirakan harga lebih dari $20.000 AS mengingat varian A100 40 GB dijual seharga sekitar $15.000 AS.

Selain pengumuman ini, NVIDIA juga mengumumkan solusi InfiniBand barunya yang menyediakan konfigurasi hingga 2048 titik NDR 400 Gb/s (atau 4096 port NDR 200) dengan total throughput dua arah 1,64 Pb/s. Itu saja merupakan peningkatan 5x lipat dari generasi sebelumnya dan menawarkan akselerator AI 32x lebih tinggi.

Spesifikasi Tesla A100 Berbasis GPU NVIDIA Ampere GA100: