Chỉ số giá GPU
Giá thuê L40S trên đám mây
Mọi nhà cung cấp đang cung cấp L40S, được chuẩn hóa theo một GPU mỗi giờ, kèm lịch sử giá 30 ngày.
Nghiên cứu bởi GPUCloudCompare Research
Tóm tắt L40S
- Bộ nhớ
- 48 GB
- Kiến trúc
- Ada Lovelace
- Băng thông bộ nhớ
- 864 GB/s
- Thông lượng FP16 Dense
- 362 TFLOPS*
Các con số do nhà cung cấp công bố, bao gồm độ thưa (sparsity) nếu nhà cung cấp nêu rõ. Luôn xác nhận trên datasheet chính thức trước khi quy mô cụm.
So sánh giá đầy đủ
Lọc và sắp xếp chạy cục bộ trong trình duyệt của bạn — và trạng thái lọc được lưu trong URL, nên chế độ xem đã lọc có thể chia sẻ.
| Nhà cung cấp | Mô hình GPU | VRAM | GPU | vCPU | Khu vực | Theo yêu cầu /giờ | Spot /giờ | Thao tác |
|---|---|---|---|---|---|---|---|---|
| Vast.ai | L40S | 48 GB | 1 | — | Distributed (global hosts) | $0.3356 Giá tốt nhất | $0.2667 | Thuê ngay |
| RunPod | L40S | 48 GB | 1 | — | Global (secure + community cloud) | $0.7900 | — | Thuê ngay |
Không có ưu đãi nào khớp với các bộ lọc này. Hãy nới lỏng giới hạn giá hoặc xóa tìm kiếm.
GPU nào hoạt động tốt cùng L40S?
Sử dụng trình tính VRAM LLM để kiểm tra xem một mô hình cụ thể có vừa trong một L40S không, và công cụ ước lượng chi phí để chuyển mức giá theo giờ thành ngân sách hàng tháng bao gồm lưu trữ và băng thông ra.
L40S so sánh với các GPU khác
Các câu hỏi thường gặp
Cách thức định giá hoạt động, cách chúng tôi thu thập dữ liệu và cách trang web này được tài trợ.
GPU nào tốt nhất cho suy luận LLM?
Đối với các mô hình vừa vặn trong bộ nhớ, băng thông bộ nhớ quan trọng hơn FLOPS thô, nên các card như L40S, RTX 4090 hay A100 thường cho tokens trên mỗi đô la tốt hơn H100. Khi mô hình cần song song tensor đa GPU, các instance H100 hoặc H200 trang bị NVLink thường thắng.
Cần bao nhiêu VRAM để fine-tune mô hình?
Fine-tuning đầy đủ cần xấp xỉ số tham số nhân bytes mỗi tham số cho trọng số, cộng thêm trạng thái optimizer có thể lớn gấp nhiều lần. LoRA và QLoRA giảm đáng kể dung lượng optimizer. Hãy dùng công cụ tính VRAM LLM để xác định cấu hình.
Thuê hay mua GPU rẻ hơn?
Thuê thường thắng trừ khi bạn có thể giữ thiết bị bận rộn phần lớn năm. Thuê cloud cũng chuyển chi phí làm mới phần cứng cho nhà cung cấp.
Tại sao cùng một mẫu GPU lại có giá khác nhau?
Cấu hình khác nhau: số GPU mỗi instance, RAM hệ thống và vCPU, ổ cục bộ, khu vực, và có capacity ngắt quãng hay không. Chúng tôi chuẩn hóa về một GPU đơn lẻ để bạn thấy rõ những khác biệt đó.