« thông cáo báo chí »
NVIDIA công bố siêu máy tính AI DGX GH200
Loại siêu máy tính AI mới kết nối 256 siêu chip Grace Hopper thành khối lượng lớn, 1-Exaflop, GPU 144TB dành cho các mẫu máy khổng lồ cung cấp năng lượng cho AI sáng tạo, Hệ thống đề xuất, Xử lý dữ liệu
COMPUTEX—NVIDIA hôm nay đã công bố một loại siêu máy tính AI bộ nhớ lớn mới — NVIDIA DGX ™ được hỗ trợ bởi Siêu chip NVIDIA® GH200 Grace Hopper và Hệ thống chuyển mạch NVIDIA NVLink® — được tạo ra để cho phép phát triển các mô hình khổng lồ, thế hệ tiếp theo cho các ứng dụng ngôn ngữ AI tổng quát, hệ thống đề xuất và khối lượng công việc phân tích dữ liệu.
Không gian bộ nhớ dùng chung khổng lồ của NVIDIA DGX GH200 sử dụng công nghệ kết nối NVLink với Hệ thống chuyển mạch NVLink để kết hợp 256 siêu chip GH200, cho phép chúng hoạt động như một GPU duy nhất. Điều này cung cấp 1 exaflop hiệu suất và 144 terabyte bộ nhớ dùng chung — bộ nhớ nhiều hơn gần 500 lần so với NVIDIA DGX A100 thế hệ trước, được giới thiệu vào năm 2020.
“AI thế hệ mới, mô hình ngôn ngữ lớn và hệ thống đề xuất là động cơ kỹ thuật số của nền kinh tế hiện đại,” Jensen Huang, người sáng lập và Giám đốc điều hành của NVIDIA cho biết. “Siêu máy tính AI DGX GH200 tích hợp các công nghệ mạng và điện toán tăng tốc tiên tiến nhất của NVIDIA để mở rộng ranh giới của AI.”
Công nghệ NVIDIA NVLink mở rộng AI trên quy mô lớn
Siêu chip GH200 loại bỏ cần kết nối PCIe từ CPU đến GPU truyền thống bằng cách kết hợp CPU NVIDIA Grace™ dựa trên Arm với GPU NVIDIA H100 Tensor Core trong cùng một gói, sử dụng kết nối chip NVIDIA NVLink-C2C. Điều này giúp tăng băng thông giữa GPU và CPU lên gấp 7 lần so với công nghệ PCIe mới nhất, giảm mức tiêu thụ điện năng kết nối hơn 5 lần và cung cấp khối xây dựng GPU kiến trúc Hopper 600 GB cho siêu máy tính DGX GH200.
DGX GH200 là siêu máy tính đầu tiên ghép đôi Siêu chip Grace Hopper với Hệ thống chuyển mạch NVIDIA NVLink, một kết nối mới cho phép tất cả các GPU trong hệ thống DGX GH200 hoạt động cùng nhau như một. Hệ thống thế hệ trước chỉ cung cấp tám GPU được kết hợp với NVLink thành một GPU mà không ảnh hưởng đến hiệu suất.
Kiến trúc DGX GH200 cung cấp băng thông NVLink nhiều hơn 48 lần so với thế hệ trước, mang đến sức mạnh của một AI khổng lồ siêu máy tính với sự đơn giản trong việc lập trình một GPU.
Công cụ nghiên cứu mới dành cho những người tiên phong về AI
Google Cloud, Meta và Microsoft nằm trong số lần đầu tiên dự kiến sẽ có quyền truy cập vào DGX GH200 để khám phá các khả năng của nó đối với khối lượng công việc AI tổng quát. NVIDIA cũng dự định cung cấp thiết kế DGX GH200 dưới dạng bản thiết kế cho các nhà cung cấp dịch vụ đám mây và các công ty siêu quy mô khác để họ có thể tùy chỉnh thêm cho cơ sở hạ tầng của mình.
“Việc xây dựng các mô hình thế hệ tiên tiến đòi hỏi các cách tiếp cận sáng tạo đối với cơ sở hạ tầng AI,” cho biết Mark Lohmeyer, phó chủ tịch Điện toán tại Google Cloud. “Quy mô NVLink mới và bộ nhớ dùng chung của Grace Hopper Superchips giải quyết các tắc nghẽn chính trong AI quy mô lớn và chúng tôi mong muốn khám phá các khả năng của nó cho Google Cloud và các sáng kiến AI tổng quát của chúng tôi.”
“Khi các mô hình AI phát triển lớn hơn, họ cần cơ sở hạ tầng mạnh mẽ có thể mở rộng quy mô để đáp ứng nhu cầu ngày càng tăng,” ông Alexis Björlin, phó chủ tịch Cơ sở hạ tầng, Hệ thống AI và Nền tảng tăng tốc tại Meta cho biết. “Thiết kế Grace Hopper của NVIDIA mong muốn cung cấp cho các nhà nghiên cứu khả năng khám phá những cách tiếp cận mới để giải quyết những thách thức lớn nhất của họ.”
“Đào tạo các mô hình AI lớn theo truyền thống là một nhiệm vụ tốn nhiều thời gian và tài nguyên,” Girish Bablani cho biết , phó chủ tịch tập đoàn Cơ sở hạ tầng Azure tại Microsoft. “Tiềm năng để DGX GH200 hoạt động với các bộ dữ liệu có kích thước hàng terabyte sẽ cho phép các nhà phát triển tiến hành nghiên cứu nâng cao ở quy mô lớn hơn và tốc độ nhanh hơn.”
Siêu máy tính NVIDIA Helios mới để Thúc đẩy Nghiên cứu và Phát triển
NVIDIA là xây dựng siêu máy tính AI dựa trên DGX GH200 của riêng mình để cung cấp năng lượng cho công việc của các nhà nghiên cứu và nhóm phát triển.
Được đặt tên là NVIDIA Helios, siêu máy tính này sẽ có bốn hệ thống DGX GH200. Mỗi thiết bị sẽ được kết nối với mạng NVIDIA Quantum-2 InfiniBand để tăng cường thông lượng dữ liệu nhằm đào tạo các mô hình AI lớn. Helios sẽ bao gồm 1.024 Siêu chip Grace Hopper và dự kiến sẽ ra mắt trực tuyến vào cuối năm nay.
Được tích hợp đầy đủ và được xây dựng có mục đích cho các mẫu máy khổng lồ
Siêu máy tính DGX GH200 bao gồm Phần mềm NVIDIA để cung cấp giải pháp trọn gói, chìa khóa trao tay cho khối lượng công việc phân tích dữ liệu và AI lớn nhất. Phần mềm NVIDIA Base Command™ cung cấp khả năng quản lý luồng công việc AI, quản lý cụm cấp doanh nghiệp, thư viện giúp tăng tốc điện toán, lưu trữ và cơ sở hạ tầng mạng cũng như phần mềm hệ thống được tối ưu hóa để chạy khối lượng công việc AI.
Ngoài ra còn có NVIDIA AI Enterprise, phần mềm lớp phần mềm của nền tảng NVIDIA AI. Nó cung cấp hơn 100 khung, mô hình đào tạo trước và công cụ phát triển để đơn giản hóa quá trình phát triển và triển khai AI sản xuất bao gồm AI tổng quát, thị giác máy tính, AI lời nói, v.v.
Khả dụng
NVIDIA Siêu máy tính DGX GH200 dự kiến sẽ có mặt trên thị trường vào cuối năm nay.
« cuối thông cáo báo chí »
