ดัชนีราคา GPU
ราคาเช่า H100 SXM บนคลาวด์
ผู้ให้บริการทุกรายที่มี H100 SXM อยู่ในขณะนี้ แปลงเป็นราคาต่อ GPU ต่อชั่วโมง พร้อมประวัติราคา 30 วัน
วิจัยโดย GPUCloudCompare Research
H100 SXM ภาพรวม
- หน่วยความจำ
- 80 GB
- สถาปัตยกรรม
- Hopper
- แบนด์วิดท์หน่วยความจำ
- 3.35 TB/s
- อัตราผ่าน FP16 แบบ Dense
- 989 TFLOPS*
ตัวเลขจากผู้ผลิต รวมถึงความเบาบางเมื่อผู้ผลิตระบุ โปรดยืนยันจาก datasheet อย่างเป็นทางการก่อนกำหนดขนาดคลัสเตอร์
เปรียบเทียบราคาแบบเต็ม
การกรองและการจัดเรียงทำงานภายในเบราว์เซอร์ของคุณ และสถานะตัวกรองถูกเก็บไว้ใน URL จึงแชร์มุมมองที่กรองแล้วได้
| ผู้ให้บริการ | รุ่น GPU | VRAM | GPUs | vCPU | ภูมิภาค | ตามความต้องการ /ชม. | Spot /ชม. | การดำเนินการ |
|---|---|---|---|---|---|---|---|---|
| Vast.ai | H100 SXM | 94 GB | 1 | — | Distributed (global hosts) | $2.3356 ราคาดีที่สุด | $0.6533 | เช่าเลย |
| RunPod | H100 SXM | 80 GB | 1 | — | Global (secure + community cloud) | $2.6900 | — | เช่าเลย |
ไม่มีข้อเสนอที่ตรงกับตัวกรองเหล่านี้ ลองผ่อนเพดานราคาหรือล้างคำค้นหา
GPU ใดเหมาะกับ H100 SXM?
ใช้เครื่องคำนวณ VRAM สำหรับ LLM เพื่อตรวจสอบว่าโมเดลเฉพาะพอดีกับ H100 SXM เดียวหรือไม่ และใช้เครื่องประมาณค่าใช้จ่ายเพื่อแปลงอัตรารายชั่วโมงเป็นงบประมาณรายเดือนรวมค่าเก็บข้อมูลและค่าออกข้อมูล (egress)
H100 SXM เปรียบเทียบกับ GPU อื่นๆ
คำถามที่พบบ่อย
วิธีการกำหนดราคา วิธีที่เราเก็บรวบรวมข้อมูล และแหล่งเงินทุนของเว็บไซต์นี้
GPU รุ่นไหนเหมาะที่สุดสำหรับการ inference โมเดล LLM?
สำหรับโมเดลที่จับได้ในหน่วยความจำ แบนด์วิดท์หน่วยความจำสำคัญกว่า FLOPS ดิบ ดังนั้นการ์ดอย่าง L40S, RTX 4090 หรือ A100 มักให้ tokens ต่อดอลลาร์ดีกว่า H100 เมื่อโมเดลต้องการ tensor parallelism หลาย GPU อินสแตนซ์ H100 หรือ H200 ที่มี NVLink มักจะชนะ
ต้องการ VRAM เท่าไหร่สำหรับการ fine-tune โมเดล?
Fine-tuning แบบเต็มต้องการ VRAM ประมาณจำนวนพารามิเตอร์คูณไบต์ต่อพารามิเตอร์สำหรับน้ำหนัก บวกสถานะ optimizer ที่ใหญ่กว่าหลายเท่า LoRA และ QLoRA ลดขนาด optimizer อย่างมาก ใช้เครื่องคำนวณ VRAM สำหรับ LLM เพื่อกำหนดคอนฟิก
การเช่าหรือซื้อ GPU อันไหนถูกกว่า?
การเช่ามักคุ้มกว่า เว้นแต่คุณใช้งานอุปกรณ์เต็มที่ตลอดปี การเช่าบนคลาวดยังโยนค่าใช้จ่ายในการปรับปรุงฮาร์ดแวร์ให้ผู้ให้บริการ
ทำไมรุ่น GPU เดียวกันถึงมีราคาต่างกัน?
คอนฟิกต่างกัน: จำนวน GPU ต่ออินสแตนซ์, RAM ระบบและ vCPU, ดิสก์ท้องถิ่น, ภูมิภาค และว่าความจุสามารถ interrupt ได้หรือไม่ เรา normalize ให้เป็น GPU เดียวเพื่อให้คุณเห็นความแตกต่างชัดเจน