Mổ bụng và đánh giá “hàng nóng” NVIDIA H100 PCIe: hoàn toàn không dành cho gaming
Tuy nhiên cơ hội đánh giá kỹ H100 thì không dễ dàng tí nào ngay cả với các reviewer tên tuổi nhất
11/08/2023
0 494 1 minute read
Đánh giá bài viết
[Total: 0 Average: 0]
Mới đây, 2 kênh Youtube đã có cơ hội tiến hành mổ xẻ và đánh giá kỹ “hàng nóng” NVIDIA H100 phiên bản PCIe. Đây là tâm điểm đáng chú ý giữa các “ông lớn”, “kỳ lân” công nghệ và siêu cường Mỹ-TQ với những áp đặt lệnh cấm vận lẫn nhau và những pha “mua chui” chợ đen với giá không thể tưởng tượng: trên 1 tỷ đồng/ chiếc GPU. Đồng thời đây cũng là nhu cầu quá hót đến mức mà chính chúng không thể đáp ứng được “bong bóng” AI quá lớn cho đến năm 2025.
Vậy đâu là nguyên nhân chính khiến H100 trở thành “của hiếm” quá khó tiếp cận như vậy? Bài đánh giá mổ xẻ dưới đây sẽ lý giải được phần nào vấn đề hóc búa này:
Đây là phiên bản card PCIe sử dụng tản nhiệt khí thụ động với tản nhiệt 2-slot, lấy gió trực tiếp từ những fan của những chiếc máy chủ doanh nghiệpH100 PCIe có 3 cầu nối NVLink, tối đa mỗi cặp GPU có thể kết nối với mỗi cặp GPU kia để nâng cao hiệu suất huấn luyện AIMặt sau bảng mạch NVIDIA H100 PCIeGPU có xung nhịp cơ bản 1095mhz, có thể đẩy lên tối đa 1755mhz. Bộ nhớ HBM có thể chạy ở ngưỡng 1593mhzH100 PCIe được trang bị 80GB HBM2e với băng thông trên 2GB/sNVIDIA H100 PCIe có 4 hàng VRM với tổng cộng 31 phases cấp điện cho nhu cầu AI háu đói năng lượngCông suất tiêu thụ điện tối đa của H100 PCIe tối đa là 350WSo sánh bảng mạch của A100 PCIe và H100 PCIe (mặt trước)So sánh bảng mạch của A100 PCIe và H100 PCIe (mặt sau)
Đánh giá chi tiết NVIDIA H100 PCIe
So sánh RTX 4090 và các phiên bản H100. Nhưng đừng để con số CUDA thuần đánh lừa bạn, vì bản chất chúng rất khác nhau cho những nhu cầu khác biệtH100 tập trung cho 2 nhiệm vụ chính: điện toán hiệu năng cao HPC và trí tuệ nhân tạo AISo sánh khả năng HPC của H100 và RTX 4090Với chỉ 576 nhân phục vụ đồ họa, H100 hoàn toàn không sinh ra cho mục đích gaming khi nó còn yếu hơn quá nhiều so với những card gaming bình dânBởi vì không vì sinh ra cho nhu cầu đồ họa cho nên H100 cũng bị cắt bỏ luôn nhân Ray TracingCũng chính vì thế mà hiệu năng gaming của H100 còn đuối hơn hẳn so với card đồ họa tích hợpĐúng như dự đoán, NVIDIA H100 thể hiện thất vọng trong tựa game Red Dead Redemption 2 khi chơi 4K. Xuống độ phân giải 1080p, H100 có thể lết được chỉ khoảng 30fpsTuy nhiên khi chuyển sang tác vụ chuyên biệt huấn luyện trí tuệ nhân tạo, thì đây là lúc H100 trở về đúng mục đích của nó được sinh ra khi cân được 65 tỷ tham số cùng lúc. Với việc triển khai mô hình llama khổng lồ, RTX 4090 chính thức chịu thua khi chỉ huấn luyện được ở quy mô ít ỏi 6 tỷ tham số
