Chỉ số giá GPU
Giá thuê H20 trên đám mây
Mọi nhà cung cấp đang cung cấp H20, được chuẩn hóa theo một GPU mỗi giờ, kèm lịch sử giá 30 ngày.
Nghiên cứu bởi GPUCloudCompare Research
Tóm tắt H20
- Bộ nhớ
- 96 GB
- Kiến trúc
- Hopper
- Băng thông bộ nhớ
- 4.0 TB/s
- Thông lượng FP16 Dense
- 148 TFLOPS*
Các con số do nhà cung cấp công bố, bao gồm độ thưa (sparsity) nếu nhà cung cấp nêu rõ. Luôn xác nhận trên datasheet chính thức trước khi quy mô cụm.
Lịch sử giá 30 ngày
Ảnh chụp hàng ngày mức giá H20 thấp nhất của từng nhà cung cấp.
- 优云智算 UCloud $0.8015/h
Đường cong này được xây dựng từ các lần thu thập hàng ngày của chúng tôi, vì vậy cửa sổ dữ liệu sẽ dần đầy lên theo thời gian. Giá được cập nhật mỗi 6 giờ và đường biểu diễn trung vị hàng ngày, cùng phương pháp mà Vast.ai sử dụng.
So sánh giá đầy đủ
Lọc và sắp xếp chạy cục bộ trong trình duyệt của bạn — và trạng thái lọc được lưu trong URL, nên chế độ xem đã lọc có thể chia sẻ.
| Nhà cung cấp | Mô hình GPU | VRAM | GPU | vCPU | Khu vực | Theo yêu cầu /giờ | Spot /giờ | Thao tác |
|---|---|---|---|---|---|---|---|---|
| 优云智算 UCloud | H20 | 96 GB | 1 | — | China (Ulanqab/Shanghai/Denver) | $0.8015 Giá tốt nhất | — | Thuê ngay |
Không có ưu đãi nào khớp với các bộ lọc này. Hãy nới lỏng giới hạn giá hoặc xóa tìm kiếm.
GPU nào hoạt động tốt cùng H20?
Sử dụng trình tính VRAM LLM để kiểm tra xem một mô hình cụ thể có vừa trong một H20 không, và công cụ ước lượng chi phí để chuyển mức giá theo giờ thành ngân sách hàng tháng bao gồm lưu trữ và băng thông ra.
Các câu hỏi thường gặp
Cách thức định giá hoạt động, cách chúng tôi thu thập dữ liệu và cách trang web này được tài trợ.
GPU nào tốt nhất cho suy luận LLM?
Đối với các mô hình vừa vặn trong bộ nhớ, băng thông bộ nhớ quan trọng hơn FLOPS thô, nên các card như L40S, RTX 4090 hay A100 thường cho tokens trên mỗi đô la tốt hơn H100. Khi mô hình cần song song tensor đa GPU, các instance H100 hoặc H200 trang bị NVLink thường thắng.
Cần bao nhiêu VRAM để fine-tune mô hình?
Fine-tuning đầy đủ cần xấp xỉ số tham số nhân bytes mỗi tham số cho trọng số, cộng thêm trạng thái optimizer có thể lớn gấp nhiều lần. LoRA và QLoRA giảm đáng kể dung lượng optimizer. Hãy dùng công cụ tính VRAM LLM để xác định cấu hình.
Thuê hay mua GPU rẻ hơn?
Thuê thường thắng trừ khi bạn có thể giữ thiết bị bận rộn phần lớn năm. Thuê cloud cũng chuyển chi phí làm mới phần cứng cho nhà cung cấp.
Tại sao cùng một mẫu GPU lại có giá khác nhau?
Cấu hình khác nhau: số GPU mỗi instance, RAM hệ thống và vCPU, ổ cục bộ, khu vực, và có capacity ngắt quãng hay không. Chúng tôi chuẩn hóa về một GPU đơn lẻ để bạn thấy rõ những khác biệt đó.