Hình ảnh: NVIDIA
NVIDIA là một công ty phần cứng hay phần mềm hơn? Có lẽ là cái sau, theo Manuvir Das, Trưởng bộ phận Điện toán Doanh nghiệp của NVIDIA, người đã phát biểu tại sự kiện Điện toán Tương lai của MIT Technology Review hôm qua và đề cập rằng “tại NVIDIA, chúng tôi dành 20% thời gian cho phần cứng và 80% thời gian cho phần mềm.”Tuyên bố của Das được đưa ra cùng ngày NVIDIA bắt đầu vận chuyển DGX H100, một hệ thống mới để cung cấp năng lượng cho các ứng dụng AI có tám GPU NVIDIA H100 với bộ nhớ GPU 640 GB. Theo ghi nhận của John Carmack, GPU H100 của NVIDIA đang được bán với giá cao tới 45.000 USD trên eBay.
Từ NVIDIA Newsroom post:
Mỗi GPU NVIDIA H100 Tensor Core trong một Hệ thống DGX H100 cung cấp hiệu suất trung bình cao hơn khoảng 6 lần so với các GPU trước đó. DGX H100 gói tám trong số chúng, mỗi cái có một Công cụ biến áp được thiết kế để tăng tốc các mô hình AI tổng quát.
Tám GPU H100 kết nối qua NVIDIA NVLink để tạo thành một GPU khổng lồ. Khả năng mở rộng quy mô không dừng lại ở đó: các tổ chức có thể kết nối hàng trăm nút DGX H100 vào một siêu máy tính AI bằng cách sử dụng NVIDIA Quantum InfiniBand có độ trễ cực thấp 400 Gbps, gấp đôi tốc độ của các mạng trước đây.
“At NVIDIA, chúng tôi dành 20% thời gian cho phần cứng và 80% thời gian cho phần mềm.
Chúng tôi liên tục nghiên cứu các thuật toán để hiểu những gì phần cứng của chúng tôi có thể và không thể làm. AI là một vấn đề toàn ngăn xếp.”
– Manuvir Das, Trưởng bộ phận Điện toán Doanh nghiệp$NVDA … pic.twitter.com/zFM4XNbjVJ
— Simon Erickson (@7Innovator) Ngày 1 tháng 5 năm 2023
Tham gia thảo luận về bài đăng này trên diễn đàn của chúng tôi…