GPU मूल्य सूचकांक
A100 PCIe क्लाउड किराया मूल्य
वर्तमान में A100 PCIe प्रदान करने वाला प्रत्येक प्रदाता, प्रति घंटा एक GPU के लिए सामान्यीकृत, 30-दिन के मूल्य इतिहास के साथ।
शोध द्वारा GPUCloudCompare Research
A100 PCIe एक नज़र में
- मेमोरी
- 40 GB
- आर्किटेक्चर
- Ampere
- मेमोरी बैंडविड्थ
- 1.55 TB/s
- घना FP16 थ्रूपुट
- 312 TFLOPS*
विक्रेता द्वारा प्रकाशित आँकड़े, जहाँ विक्रेता बताता है वहाँ विरलता के साथ। क्लस्टर का आकार तय करने से पहले आधिकारिक डेटाशीट पर हमेशा पुष्टि करें।
पूरी कीमत तुलना
फ़िल्टरिंग और सॉर्टिंग आपके ब्राउज़र में स्थानीय रूप से चलते हैं — और फ़िल्टर स्थिति URL में रहती है, इसलिए फ़िल्टर किया गया दृश्य साझा करने योग्य है।
| प्रदाता | GPU मॉडल | VRAM | GPUs | vCPU | क्षेत्र | ऑन-डिमांड /hr | स्पॉट /hr | कार्रवाइयाँ |
|---|---|---|---|---|---|---|---|---|
| Vast.ai | A100 PCIe | 40 GB | 1 | — | Distributed (global hosts) | $0.2681 सर्वोत्तम मूल्य | $0.2000 | अभी किराए पर लें |
| RunPod | A100 PCIe | 80 GB | 1 | — | Global (secure + community cloud) | $1.1900 | — | अभी किराए पर लें |
कोई ऑफ़र इन फ़िल्टर से मेल नहीं खाता। मूल्य सीमा ढीली करें या खोज साफ़ करें।
कौन से GPU A100 PCIe के साथ अच्छी तरह काम करते हैं?
LLM VRAM कैलकुलेटर का उपयोग करके जाँचें कि क्या कोई विशिष्ट मॉडल एक A100 PCIe में फिट होता है, और लागत अनुमानकर्ता का उपयोग करके प्रति घंटा दर को मासिक बजट में बदलें जिसमें स्टोरेज और ईग्रेस शामिल हों।
A100 PCIe की अन्य GPU के साथ तुलना
अक्सर पूछे जाने वाले प्रश्न
मूल्य निर्धारण कैसे काम करता है, हम इसे कैसे एकत्र करते हैं, और यह साइट कैसे वित्तपोषित होती है।
एलएलएम इन्फरेंस के लिए कौन-से GPU सबसे अच्छे हैं?
जिन मॉडल्स मेमोरी में फिट हो जाते हैं, उनके लिए रॉ FLOPS से ज़्यादा महत्वपूर्ण मेमोरी बैंडवidth है, इसलिए L40S, RTX 4090 या A100 जैसे कार्ड अक्सर H100 से बेहतर टोकन-प्रति-डॉलर देते हैं। जब मॉडल को मल्टी-GPU टेंसर पैरलेलिज़्म की ज़रूरत होती है, तब NVLink से लैस H100 या H200 इंस्टेंस आमतौर पर बेहतर रहते हैं।
मॉडल को फाइन-ट्यून करने के लिए कितनी VRAM चाहिए?
फुल फाइन-ट्यूनिंग में वज़न के लिए लगभग पैरामीटर काउंट × प्रति पैरामीटर बाइट्स की VRAM चाहिए, और इसके साथ ऑप्टिमाइज़र स्टेट भी चाहिए, जो कई गुना बड़ी हो सकती है। LoRA और QLoRA ऑप्टिमाइज़र की मेमोरी की ज़रूरत बहुत कम कर देते हैं। सही कॉन्फ़िगरेशन तय करने के लिए LLM VRAM कैलकुलेटर का इस्तेमाल करें।
GPU किराए पर लेना बेहतर है या खरीदना?
जब तक आप डिवाइस को साल के बड़े हिस्से में इस्तेमाल में न रख सकें, किराया लेना आमतौर पर सस्ता पड़ता है। क्लाउड किराये में हार्डवेयर रीफ़्रेश का खर्च भी प्रोवाइडर पर शिफ्ट हो जाता है।
एक जैसे GPU मॉडल की कीमतें अलग-अलग क्यों होती हैं?
कॉन्फ़िगरेशन अलग होते हैं: हर इंस्टेंस में GPU की संख्या, सिस्टम RAM और vCPU, लोकल डिस्क, रीज़न, और यह कि कैपेसिटी इंटरप्टेबल है या नहीं। हम सभी को एक ही GPU के आधार पर नॉर्मलाइज़ करते हैं, ताकि आप इन अंतरों को आसानी से समझ सकें।