NVIDIA được cho là đang trong quá trình đào tạo mô hình lớn GPT-5, dự kiến sẽ có kích thước gấp 10 lần GPT-4. Tuy nhiên, sự tiến bộ này đi kèm với một chi phí đáng kể, khi sự khan hiếm card đồ họa để đào tạo AI ngày càng rõ ràng.
Mặc dù chi tiết chính xác về số lượng card đồ họa AI được sử dụng cho các mô hình quy mô lớn khác nhau vẫn chưa được tiết lộ, nhưng người ta ước tính rằng GPT-4 đã được đào tạo trên 10.000-25.000 card đồ họa A100. Mặt khác, GPT-5 được dự đoán sẽ yêu cầu tăng đáng kể tài nguyên GPU cần thiết để huấn luyện AI. Elon Musk, người sáng lập OpenAI, dự đoán rằng nó sẽ cần tới 30.000-50.000 card đồ họa H100, mang lại hiệu suất vượt trội.
Nhu cầu về card đồ họa AI hiệu năng cao không chỉ giới hạn ở OpenAI. Các công ty như Meta, Google, Microsoft, Apple, Tesla và Musk đều đầu tư rất nhiều vào phát triển AI. Người ta ước tính rằng tổng nhu cầu về card đồ họa H100 sẽ đạt 432.000 GPU, với giá trị thị trường vượt quá 15 tỷ USD.
Mức độ yêu cầu cao này không dành riêng cho Hoa Kỳ; các công ty trong nước ở các quốc gia khác cũng đang đầu tư vào các mô hình AI lớn và cạnh tranh nguồn cung cấp card đồ họa hạn chế. Hiện tại, chỉ NVIDIA mới có thể đáp ứng nhu cầu về card đồ họa AI, khi các đối thủ như AMD và Intel phải đối mặt với những thách thức về hiệu suất và nguồn cung. Chẳng hạn, MI300X của AMD dự kiến sẽ không xuất xưởng với số lượng lớn cho đến năm 2024.
Tình trạng thiếu card đồ họa AI dự kiến sẽ kéo dài đến cuối năm 2024. Với mức giá khởi điểm 250.000 nhân dân tệ, giá của card đồ họa H100 có thể tăng hơn nữa do nhu cầu cao. NVIDIA sẽ được hưởng lợi đáng kể từ xu hướng thị trường này, khi họ tiếp tục thống trị thị trường card đồ họa AI.
