Các câu hỏi thường gặp

Không. Chúng tôi không bán, bán lại hay môi giới tài nguyên tính toán và không bao giờ thu thanh toán. Chúng tôi công bố giá đã được chuẩn hóa từ các trang công khai của nhà cung cấp và liên kết bạn trực tiếp đến nhà cung cấp để bạn thuê trực tiếp từ họ.

Bộ thu thập dữ liệu theo lịch trình chạy hàng ngày lúc 02:00 UTC. Mọi bảng đều hiển thị thời điểm thu thập thành công gần nhất. Nếu một nguồn thất bại, lần chạy sẽ được ghi log và cảnh báo được kích hoạt thay vì âm thầm tái sử dụng dữ liệu cũ.

Thông qua các đối tác liên kết (affiliate). Nếu bạn nhấp vào liên kết nhà cung cấp và sau đó thanh toán cho tài nguyên tính toán, nhà cung cấp có thể trả cho chúng tôi hoa hồng. Bạn không bao giờ phải trả thêm, và hoa hồng không bao giờ thay đổi giá, thứ tự hay đánh giá trên trang web này.

On-demand nghĩa là instance vẫn thuộc về bạn miễn là bạn thanh toán. Spot hoặc dung lượng có thể ngắt quãng có thể bị chủ máy thu hồi và do đó rẻ hơn. Giá được chuẩn hóa theo một GPU mỗi giờ.

Không. Cả hai máy tính đều chạy hoàn toàn trong trình duyệt của bạn và kết quả được lưu trong fragment URL, nên bạn có thể bookmark hoặc chia sẻ cấu hình. Không có dữ liệu nào được gửi đến máy chủ của chúng tôi.

Hoặc nhà cung cấp hiện không liệt kê mẫu đó, hoặc mẫu đó từng được liệt kê nhưng đã bị gỡ bỏ trước lần thu thập gần nhất. Chúng tôi thích hiển thị khoảng trống hơn là số liệu bịa đặt.

Đối với từng mẫu GPU mà cả hai nhà cung cấp đều liệt kê, chúng tôi so sánh giá theo giờ cho một GPU đã được chuẩn hóa. Các mẫu chỉ có một bên cung cấp sẽ bị loại trừ, vì đó không phải là so sánh đồng loại.

Không phải lúc nào cũng vậy. Dung lượng marketplace có thể bị thu hồi với thời gian thông báo ngắn, và các host khác nhau về hiệu suất mạng và ổ đĩa, trong khi đám mây chuyên dụng cung cấp thông lượng dễ dự đoán hơn. Đối với đào tạo đa nút, hỗ trợ NVLink thường quan trọng hơn vài cent mỗi giờ.

Chỉ tương đối thôi. Mỗi nền tảng định nghĩa quy tắc ngắt quãng, thời gian thông báo và hành vi thu hồi khác nhau. Hãy coi giá spot là chỉ báo cho mức giá rẻ nhất có thể đạt được, không phải giá đảm bảo.

Hầu hết các nhà cung cấp tính phí theo giây hoặc theo giờ. Hãy sử dụng công cụ ước tính chi phí GPU để chuyển đổi mức giá theo giờ thành ngân sách hàng tháng.

Đối với các mô hình vừa vặn trong bộ nhớ, băng thông bộ nhớ quan trọng hơn FLOPS thô, nên các card như L40S, RTX 4090 hay A100 thường cho tokens trên mỗi đô la tốt hơn H100. Khi mô hình cần song song tensor đa GPU, các instance H100 hoặc H200 trang bị NVLink thường thắng.

Fine-tuning đầy đủ cần xấp xỉ số tham số nhân bytes mỗi tham số cho trọng số, cộng thêm trạng thái optimizer có thể lớn gấp nhiều lần. LoRA và QLoRA giảm đáng kể dung lượng optimizer. Hãy dùng công cụ tính VRAM LLM để xác định cấu hình.

Thuê thường thắng trừ khi bạn có thể giữ thiết bị bận rộn phần lớn năm. Thuê cloud cũng chuyển chi phí làm mới phần cứng cho nhà cung cấp.

Cấu hình khác nhau: số GPU mỗi instance, RAM hệ thống và vCPU, ổ cục bộ, khu vực, và có capacity ngắt quãng hay không. Chúng tôi chuẩn hóa về một GPU đơn lẻ để bạn thấy rõ những khác biệt đó.

Công cụ nhân giá theo giờ đã thu thập với số giờ bạn dự định sử dụng, đồng thời cộng thêm chi phí lưu trữ và lưu lượng truyền dữ liệu ra ngoài (egress) dựa trên các giả định đã nêu. Đây là công cụ ước tính ngân sách chứ không phải báo giá: hóa đơn thực tế còn bao gồm thuế, thời gian nhàn rỗi và thời lượng tính phí tối thiểu.

Công cụ tính dung lượng bộ nhớ trọng số từ số lượng tham số và độ chính xác (precision), tính bộ nhớ đệm KV dựa trên cấu trúc attention, rồi cộng thêm khoảng 15% dung lượng trọng số cho phần kích hoạt (activations) và chi phí phát sinh của framework.