« basın bülteni »
NVIDIA, DGX GH200 Yapay Zeka Süper Bilgisayarını Duyurdu
Yeni Yapay Zeka Süper Bilgisayar Sınıfı, 256 Grace Hopper Superchip’i Massive, 1-Exaflop, Dev Modeller için 144 TB GPU Üretken Yapay Zekaya, Öneri Sistemlerine, Veri İşleme
COMPUTEX—NVIDIA bugün yeni bir büyük bellekli yapay zeka süper bilgisayar sınıfı olan NVIDIA DGX’i duyurdu NVIDIA® GH200 Grace Hopper Superchips ve NVIDIA NVLink® Anahtar Sistemi tarafından desteklenen ™ süper bilgisayar — üretici yapay zeka dil uygulamaları, öneri sistemleri ve veri analizi iş yükleri için dev, yeni nesil modellerin geliştirilmesini sağlamak üzere oluşturulmuştur.
NVIDIA DGX GH200’ün devasa paylaşımlı bellek alanı, 256 GH200 süper çipi birleştirmek için NVLink Anahtar Sistemi ile NVLink ara bağlantı teknolojisini kullanır ve bunların tek bir GPU olarak çalışmasını sağlar. Bu, 1 exaflop performans ve 144 terabayt paylaşılan bellek sağlar — 2020’de piyasaya sürülen önceki nesil NVIDIA DGX A100’den yaklaşık 500 kat daha fazla bellek.
“Üretken yapay zeka, büyük dil modelleri ve öneri sistemleri, modern ekonominin dijital motorları,” dedi NVIDIA’nın kurucusu ve CEO’su Jensen Huang.”DGX GH200 AI süper bilgisayarları, AI’nın sınırlarını genişletmek için NVIDIA’nın en gelişmiş hızlandırılmış bilgi işlem ve ağ teknolojilerini entegre ediyor.”
NVIDIA NVLink Teknolojisi, AI’yı Geniş Ölçekte Genişletiyor
GH200 süper çipleri, NVIDIA NVLink-C2C yonga ara bağlantılarını kullanarak Arm tabanlı NVIDIA Grace™ CPU’yu NVIDIA H100 Tensor Core GPU ile aynı pakette birleştirerek geleneksel bir CPU-GPU PCIe bağlantısına ihtiyaç duyar. Bu, GPU ve CPU arasındaki bant genişliğini en son PCIe teknolojisine kıyasla 7 kat artırır, ara bağlantı güç tüketimini 5 kattan fazla azaltır ve DGX GH200 süper bilgisayarlar için 600 GB Hopper mimarisi GPU yapı taşı sağlar.
DGX GH200, Grace Hopper Superchip’leri, bir DGX GH200 sistemindeki tüm GPU’ların tek olarak çalışmasını sağlayan yeni bir ara bağlantı olan NVIDIA NVLink Anahtar Sistemi ile eşleştiren ilk süper bilgisayar. Önceki nesil sistem, performanstan ödün vermeden tek bir GPU olarak NVLink ile birleştirilmek üzere yalnızca sekiz GPU sağladı.
DGX GH200 mimarisi, önceki nesle göre 48 kat daha fazla NVLink bant genişliği sağlayarak devasa bir yapay zekanın gücünü sunuyor. tek bir GPU programlamanın basitliğine sahip bir süper bilgisayar.
Yapay Zeka Öncüleri İçin Yeni Bir Araştırma Aracı
Google Cloud, Meta ve Microsoft, ilk önce üretken AI iş yüklerine yönelik yeteneklerini keşfetmek için DGX GH200’e erişim kazanması bekleniyor. NVIDIA ayrıca DGX GH200 tasarımını, altyapıları için daha fazla özelleştirebilmeleri için bulut hizmeti sağlayıcılarına ve diğer hiper ölçekleyicilere bir plan olarak sağlamayı amaçlıyor.
“Gelişmiş üretken modeller oluşturmak, yapay zeka altyapısına yenilikçi yaklaşımlar gerektirir”dedi. Google Cloud’da Bilgi İşlemden Sorumlu Başkan Yardımcısı Mark Lohmeyer.”Grace Hopper Superchips’in yeni NVLink ölçeği ve paylaşılan belleği, büyük ölçekli yapay zekadaki temel darboğazları ele alıyor ve Google Cloud ve üretken yapay zeka girişimlerimiz için yeteneklerini keşfetmeyi dört gözle bekliyoruz.”
“Yapay zeka modelleri büyüdükçe Meta’da Altyapı, Yapay Zeka Sistemleri ve Hızlandırılmış Platformlar Başkan Yardımcısı Alexis Björlin,”Daha büyük, artan talepleri karşılamak için ölçeklenebilen güçlü bir altyapıya ihtiyaçları var”dedi.”NVIDIA’nın Grace Hopper tasarımı, araştırmacılara en büyük zorluklarını çözmek için yeni yaklaşımlar keşfetme yeteneği sağlıyor gibi görünüyor.”
“Büyük yapay zeka modellerini eğitmek geleneksel olarak kaynak ve zaman açısından yoğun bir görevdir,”dedi Girish Bablani. , Microsoft’ta Azure Altyapısının kurumsal başkan yardımcısı.”DGX GH200’ün terabayt boyutundaki veri kümeleriyle çalışma potansiyeli, geliştiricilerin daha büyük ölçekte ve daha yüksek hızlarda gelişmiş araştırma yürütmesine olanak tanır.”
Araştırma ve Geliştirmeyi İleri Düzeye Çıkaracak Yeni NVIDIA Helios Süper Bilgisayarı
NVIDIA araştırmacılarının ve geliştirme ekiplerinin çalışmalarını desteklemek için kendi DGX GH200 tabanlı yapay zeka süper bilgisayarını inşa ediyor.
NVIDIA Helios adlı süper bilgisayar, dört DGX GH200 sistemine sahip olacak. Her biri, büyük yapay zeka modellerini eğitmek için veri çıkışını hızlandırmak üzere NVIDIA Quantum-2 InfiniBand ağıyla birbirine bağlanacak. Helios, 1.024 Grace Hopper Superchip içerecek ve yıl sonuna kadar çevrimiçi olması bekleniyor.
Dev Modeller için Tam Entegre ve Amaca Özel
DGX GH200 süper bilgisayarlar şunları içerir: En büyük yapay zeka ve veri analitiği iş yükleri için anahtar teslimi, tam yığın bir çözüm sağlayan NVIDIA yazılımı. NVIDIA Base Command™ yazılımı, yapay zeka iş akışı yönetimi, kurumsal düzeyde küme yönetimi, bilgi işlem, depolama ve ağ altyapısını hızlandıran kitaplıklar ve yapay zeka iş yüklerini çalıştırmak için optimize edilmiş sistem yazılımı sunar.
Ayrıca NVIDIA AI Enterprise, NVIDIA AI platformunun yazılım katmanı. Üretken yapay zeka, bilgisayar görüşü, konuşma yapay zekası ve daha fazlası dahil olmak üzere üretim yapay zekasının geliştirilmesini ve devreye alınmasını kolaylaştırmak için 100’den fazla çerçeve, önceden eğitilmiş model ve geliştirme aracı sağlar.
Kullanılabilirlik
NVIDIA DGX GH200 süper bilgisayarlarının yıl sonuna kadar piyasaya sunulması bekleniyor.
« basın bülteninin sonu »