Chỉ số giá GPU
Giá thuê H100 PCIe trên đám mây
Mọi nhà cung cấp đang cung cấp H100 PCIe, được chuẩn hóa theo một GPU mỗi giờ, kèm lịch sử giá 30 ngày.
Nghiên cứu bởi GPUCloudCompare Research
Tóm tắt H100 PCIe
- Bộ nhớ
- 80 GB
- Kiến trúc
- Hopper
- Băng thông bộ nhớ
- 2.0 TB/s
- Thông lượng FP16 Dense
- 756 TFLOPS*
Các con số do nhà cung cấp công bố, bao gồm độ thưa (sparsity) nếu nhà cung cấp nêu rõ. Luôn xác nhận trên datasheet chính thức trước khi quy mô cụm.
So sánh giá đầy đủ
Lọc và sắp xếp chạy cục bộ trong trình duyệt của bạn — và trạng thái lọc được lưu trong URL, nên chế độ xem đã lọc có thể chia sẻ.
| Nhà cung cấp | Mô hình GPU | VRAM | GPU | vCPU | Khu vực | Theo yêu cầu /giờ | Spot /giờ | Thao tác |
|---|---|---|---|---|---|---|---|---|
| RunPod | H100 PCIe | 80 GB | 1 | — | Global (secure + community cloud) | $1.9900 Giá tốt nhất | — | Thuê ngay |
Không có ưu đãi nào khớp với các bộ lọc này. Hãy nới lỏng giới hạn giá hoặc xóa tìm kiếm.
GPU nào hoạt động tốt cùng H100 PCIe?
Sử dụng trình tính VRAM LLM để kiểm tra xem một mô hình cụ thể có vừa trong một H100 PCIe không, và công cụ ước lượng chi phí để chuyển mức giá theo giờ thành ngân sách hàng tháng bao gồm lưu trữ và băng thông ra.
H100 PCIe so sánh với các GPU khác
Các câu hỏi thường gặp
Cách thức định giá hoạt động, cách chúng tôi thu thập dữ liệu và cách trang web này được tài trợ.
GPU nào tốt nhất cho suy luận LLM?
Đối với các mô hình vừa vặn trong bộ nhớ, băng thông bộ nhớ quan trọng hơn FLOPS thô, nên các card như L40S, RTX 4090 hay A100 thường cho tokens trên mỗi đô la tốt hơn H100. Khi mô hình cần song song tensor đa GPU, các instance H100 hoặc H200 trang bị NVLink thường thắng.
Cần bao nhiêu VRAM để fine-tune mô hình?
Fine-tuning đầy đủ cần xấp xỉ số tham số nhân bytes mỗi tham số cho trọng số, cộng thêm trạng thái optimizer có thể lớn gấp nhiều lần. LoRA và QLoRA giảm đáng kể dung lượng optimizer. Hãy dùng công cụ tính VRAM LLM để xác định cấu hình.
Thuê hay mua GPU rẻ hơn?
Thuê thường thắng trừ khi bạn có thể giữ thiết bị bận rộn phần lớn năm. Thuê cloud cũng chuyển chi phí làm mới phần cứng cho nhà cung cấp.
Tại sao cùng một mẫu GPU lại có giá khác nhau?
Cấu hình khác nhau: số GPU mỗi instance, RAM hệ thống và vCPU, ổ cục bộ, khu vực, và có capacity ngắt quãng hay không. Chúng tôi chuẩn hóa về một GPU đơn lẻ để bạn thấy rõ những khác biệt đó.