คำถาม

คำถามที่พบบ่อย

วิธีการกำหนดราคา วิธีที่เราเก็บรวบรวมข้อมูล และแหล่งเงินทุนของเว็บไซต์นี้

คำถามที่พบบ่อย

วิธีการกำหนดราคา วิธีที่เราเก็บรวบรวมข้อมูล และแหล่งเงินทุนของเว็บไซต์นี้

เว็บไซต์นี้เป็นตลาด GPU หรือไม่?

ไม่ใช่ เราไม่ขาย ไม่จำหน่ายซ้ำ และไม่ได้เป็นตัวกลางในการเช่าคอมพิวท์ และไม่เคยรับเงินชำระ เราเผยแพร่ราคาที่ผ่านการมาตรฐานจากหน้าสาธารณะของผู้ให้บริการ และเชื่อมโยงคุณไปยังผู้ให้บริการโดยตรงเพื่อให้คุณเช่าโดยตรงจากพวกเขา

ราคาถูกอัปเดตบ่อยแค่ไหน?

โปรแกรมเก็บข้อมูลที่กำหนดไว้ทำงานทุกวันที่ 02:00 น. UTC ทุกตารางจะแสดงเวลาของการเก็บข้อมูลล่าสุดที่สำเร็จ หากแหล่งข้อมูลล้มเหลว จะมีการบันทึก log และแจ้งเตือน แทนที่จะนำข้อมูลเก่าไปใช้ซ้ำในเงียบๆ

คุณทำเงินได้อย่างไร?

ผ่านความร่วมมือแบบพันธมิตร (Affiliate) หากคุณคลิกลิงก์ผู้ให้บริการและชำระเงินค่าคอมพิวท์ภายหลัง ผู้ให้บริการอาจจ่ายค่าคอมมิชชันให้เรา คุณจะไม่ต้องจ่ายเพิ่ม และค่าคอมมิชชันจะไม่ส่งผลต่อราคา ลำดับการจัดอันดับ หรือข้อสรุปบนเว็บไซต์นี้

On-demand และ Spot หมายถึงอะไรในที่นี้?

On-demand หมายถึงอินสแตนซ์จะอยู่กับคุณตราบใดที่คุณยังชำระเงิน Spot หรือความจุที่สามารถสลับได้ อาจถูกยึดคืนโดยโฮสต์ และจึงมีราคาถูกกว่า ราคาถูกมาตรฐานเป็นต่อ GPU ต่อชั่วโมง

ฉันต้องมีบัญชีเพื่อใช้เครื่องคิดเลขหรือไม่?

ไม่จำเป็น เครื่องคิดเลขทั้งสองทำงานทั้งหมดในเบราว์เซอร์ของคุณ และผลลัพธ์จะถูกเก็บในส่วน fragment ของ URL ดังนั้นคุณจึงสามารถบุ๊กมาร์กหรือแชร์การตั้งค่าได้ ไม่มีข้อมูลใดถูกส่งไปยังเซิร์ฟเวอร์ของเรา

ทำไมบางผู้ให้บริการจึงไม่แสดงราคาสำหรับ GPU บางรุ่น?

อาจเป็นเพราะผู้ให้บริการไม่ได้ระบุมอเดลนั้นในขณะนี้ หรือเคยระบุแต่ถูกถอนก่อนการเก็บข้อมูลล่าสุด เราชอบที่จะแสดงช่องว่างมากกว่าการสร้างตัวเลขขึ้นมา

ผู้ให้บริการที่ถูกกว่าถูกกำหนดอย่างไร?

สำหรับรุ่น GPU ทุกรุ่นที่ผู้ให้บริการทั้งสองรายการ เราเปรียบเทียบราคาต่อชั่วโมงต่อ GPU เดียวที่ปรับมาตรฐานแล้ว รุ่นที่มีเพียงฝ่ายเดียวจะถูกตัดออก เนื่องจากไม่ใช่การเปรียบเทียบแบบตรงไปตรงมา

ตัวเลือกที่ถูกกว่ามีความเหมาะสมเสมอไปหรือไม่?

ไม่เสมอไป ความจุในตลาดอาจถูกเรียกคืนได้ในเวลาสั้น และโฮสต์แต่ละรายแตกต่างกันในประสิทธิภาพเครือข่ายและดิสก์ ในขณะที่คลาวด์เฉพาะทางให้ผลงานที่คาดเดาได้มากกว่า สำหรับการฝึกอบรมหลายโหนด การรองรับ NVLink มักสำคัญกว่าราคาต่ำกว่านานาทีเซนต์ต่อชั่วโมง

ราคาสปอตสามารถเปรียบเทียบโดยตรงระหว่างผู้ให้บริการได้หรือไม่?

เพียงโดยประมาณเท่านั้น แต่ละแพลตฟอร์มกำหนดกฎการขัดจังหวะ ช่วงเวลาการแจ้งเตือน และพฤติกรรมการเรียกคืนต่างกัน จงถือราคาสปอตเป็นตัวบ่งชี้อัตราที่ถูกที่สุดที่ทำได้ ไม่ใช่ราคาที่รับประกัน

ทำไมจึงแสดงราคาต่อชั่วโมงแทนราคาต่อเดือน?

ผู้ให้บริการส่วนใหญ่เรียกเก็บเงินตามวินาทีหรือชั่วโมง ใช้เครื่องมือประมาณค่าใช้จ่าย GPU เพื่อแปลงอัตราต่อชั่วโมงเป็นงบประมาณรายเดือน

GPU รุ่นไหนเหมาะที่สุดสำหรับการ inference โมเดล LLM?

สำหรับโมเดลที่จับได้ในหน่วยความจำ แบนด์วิดท์หน่วยความจำสำคัญกว่า FLOPS ดิบ ดังนั้นการ์ดอย่าง L40S, RTX 4090 หรือ A100 มักให้ tokens ต่อดอลลาร์ดีกว่า H100 เมื่อโมเดลต้องการ tensor parallelism หลาย GPU อินสแตนซ์ H100 หรือ H200 ที่มี NVLink มักจะชนะ

ต้องการ VRAM เท่าไหร่สำหรับการ fine-tune โมเดล?

Fine-tuning แบบเต็มต้องการ VRAM ประมาณจำนวนพารามิเตอร์คูณไบต์ต่อพารามิเตอร์สำหรับน้ำหนัก บวกสถานะ optimizer ที่ใหญ่กว่าหลายเท่า LoRA และ QLoRA ลดขนาด optimizer อย่างมาก ใช้เครื่องคำนวณ VRAM สำหรับ LLM เพื่อกำหนดคอนฟิก

การเช่าหรือซื้อ GPU อันไหนถูกกว่า?

การเช่ามักคุ้มกว่า เว้นแต่คุณใช้งานอุปกรณ์เต็มที่ตลอดปี การเช่าบนคลาวดยังโยนค่าใช้จ่ายในการปรับปรุงฮาร์ดแวร์ให้ผู้ให้บริการ

ทำไมรุ่น GPU เดียวกันถึงมีราคาต่างกัน?

คอนฟิกต่างกัน: จำนวน GPU ต่ออินสแตนซ์, RAM ระบบและ vCPU, ดิสก์ท้องถิ่น, ภูมิภาค และว่าความจุสามารถ interrupt ได้หรือไม่ เรา normalize ให้เป็น GPU เดียวเพื่อให้คุณเห็นความแตกต่างชัดเจน

เครื่องมือประมาณค่าใช้จ่าย GPU มีความแม่นยำเพียงใด?

เครื่องมือนี้นำราคาต่อชั่วโมงที่รวบรวมมา คูณกับจำนวนชั่วโมงที่คุณวางแผนใช้งาน แล้วเพิ่มค่าใช้จ่ายสำหรับพื้นที่จัดเก็บและข้อมูลขาออก ตามสมมติฐานที่ระบุไว้ นี่เป็นเครื่องมือช่วยวางแผนงบประมาณ ไม่ใช่ใบเสนอราคาอย่างเป็นทางการ: ใบแจ้งหนี้จริงจะรวมภาษี เวลาว่าง และช่วงเวลาการเรียกเก็บเงินขั้นต่ำ

เครื่องคำนวณ VRAM สำหรับ LLM ทำงานอย่างไร?

เครื่องมือคำนวณหน่วยความจำน้ำหนัก (weight memory) จากจำนวนพารามิเตอร์และความแม่นยำ (precision) คำนวณ KV cache จากเรขาคณิตของ attention และเพิ่มประมาณ 15% ของน้ำหนักสำหรับ activations และ overhead ของ framework