ดัชนีราคา GPU
ราคาเช่า A100 SXM บนคลาวด์
ผู้ให้บริการทุกรายที่มี A100 SXM อยู่ในขณะนี้ แปลงเป็นราคาต่อ GPU ต่อชั่วโมง พร้อมประวัติราคา 30 วัน
วิจัยโดย GPUCloudCompare Research
A100 SXM ภาพรวม
- หน่วยความจำ
- 80 GB
- สถาปัตยกรรม
- Ampere
- แบนด์วิดท์หน่วยความจำ
- 2.0 TB/s
- อัตราผ่าน FP16 แบบ Dense
- 312 TFLOPS*
ตัวเลขจากผู้ผลิต รวมถึงความเบาบางเมื่อผู้ผลิตระบุ โปรดยืนยันจาก datasheet อย่างเป็นทางการก่อนกำหนดขนาดคลัสเตอร์
ประวัติราคา 30 วัน
ภาพรวมรายวันของอัตรา A100 SXM ต่ำสุดต่อผู้ให้บริการแต่ละราย
- 优云智算 UCloud $1.1662/h
- RunPod $1.2089/h -13.0%
- Vast.ai $1.9782/h -7.3%
เปรียบเทียบราคาแบบเต็ม
การกรองและการจัดเรียงทำงานภายในเบราว์เซอร์ของคุณ และสถานะตัวกรองถูกเก็บไว้ใน URL จึงแชร์มุมมองที่กรองแล้วได้
| ผู้ให้บริการ | รุ่น GPU | VRAM | GPUs | vCPU | ภูมิภาค | ตามความต้องการ /ชม. | Spot /ชม. | การดำเนินการ |
|---|---|---|---|---|---|---|---|---|
| RunPod | A100 SXM | 80 GB | 1 | — | Global (secure + community cloud) | $1.3900 | — | เช่าเลย |
| Vast.ai | A100 SXM | 80 GB | 1 | — | Distributed (global hosts) | $1.0422 ราคาดีที่สุด | — | เช่าเลย |
| 优云智算 UCloud | A100 SXM | 80 GB | 1 | — | China (Ulanqab/Shanghai/Denver) | $1.1662 | $0.9917 | เช่าเลย |
ไม่มีข้อเสนอที่ตรงกับตัวกรองเหล่านี้ ลองผ่อนเพดานราคาหรือล้างคำค้นหา
GPU ใดเหมาะกับ A100 SXM?
ใช้เครื่องคำนวณ VRAM สำหรับ LLM เพื่อตรวจสอบว่าโมเดลเฉพาะพอดีกับ A100 SXM เดียวหรือไม่ และใช้เครื่องประมาณค่าใช้จ่ายเพื่อแปลงอัตรารายชั่วโมงเป็นงบประมาณรายเดือนรวมค่าเก็บข้อมูลและค่าออกข้อมูล (egress)
A100 SXM เปรียบเทียบกับ GPU อื่นๆ
คำถามที่พบบ่อย
วิธีการกำหนดราคา วิธีที่เราเก็บรวบรวมข้อมูล และแหล่งเงินทุนของเว็บไซต์นี้
GPU รุ่นไหนเหมาะที่สุดสำหรับการ inference โมเดล LLM?
สำหรับโมเดลที่จับได้ในหน่วยความจำ แบนด์วิดท์หน่วยความจำสำคัญกว่า FLOPS ดิบ ดังนั้นการ์ดอย่าง L40S, RTX 4090 หรือ A100 มักให้ tokens ต่อดอลลาร์ดีกว่า H100 เมื่อโมเดลต้องการ tensor parallelism หลาย GPU อินสแตนซ์ H100 หรือ H200 ที่มี NVLink มักจะชนะ
ต้องการ VRAM เท่าไหร่สำหรับการ fine-tune โมเดล?
Fine-tuning แบบเต็มต้องการ VRAM ประมาณจำนวนพารามิเตอร์คูณไบต์ต่อพารามิเตอร์สำหรับน้ำหนัก บวกสถานะ optimizer ที่ใหญ่กว่าหลายเท่า LoRA และ QLoRA ลดขนาด optimizer อย่างมาก ใช้เครื่องคำนวณ VRAM สำหรับ LLM เพื่อกำหนดคอนฟิก
การเช่าหรือซื้อ GPU อันไหนถูกกว่า?
การเช่ามักคุ้มกว่า เว้นแต่คุณใช้งานอุปกรณ์เต็มที่ตลอดปี การเช่าบนคลาวดยังโยนค่าใช้จ่ายในการปรับปรุงฮาร์ดแวร์ให้ผู้ให้บริการ
ทำไมรุ่น GPU เดียวกันถึงมีราคาต่างกัน?
คอนฟิกต่างกัน: จำนวน GPU ต่ออินสแตนซ์, RAM ระบบและ vCPU, ดิสก์ท้องถิ่น, ภูมิภาค และว่าความจุสามารถ interrupt ได้หรือไม่ เรา normalize ให้เป็น GPU เดียวเพื่อให้คุณเห็นความแตกต่างชัดเจน