GPU मूल्य सूचकांक
A40 क्लाउड किराया मूल्य
वर्तमान में A40 प्रदान करने वाला प्रत्येक प्रदाता, प्रति घंटा एक GPU के लिए सामान्यीकृत, 30-दिन के मूल्य इतिहास के साथ।
शोध द्वारा GPUCloudCompare Research
A40 एक नज़र में
- मेमोरी
- 48 GB
- आर्किटेक्चर
- Ampere
- मेमोरी बैंडविड्थ
- 696 GB/s
- घना FP16 थ्रूपुट
- 150 TFLOPS*
विक्रेता द्वारा प्रकाशित आँकड़े, जहाँ विक्रेता बताता है वहाँ विरलता के साथ। क्लस्टर का आकार तय करने से पहले आधिकारिक डेटाशीट पर हमेशा पुष्टि करें।
पूरी कीमत तुलना
फ़िल्टरिंग और सॉर्टिंग आपके ब्राउज़र में स्थानीय रूप से चलते हैं — और फ़िल्टर स्थिति URL में रहती है, इसलिए फ़िल्टर किया गया दृश्य साझा करने योग्य है।
| प्रदाता | GPU मॉडल | VRAM | GPUs | vCPU | क्षेत्र | ऑन-डिमांड /hr | स्पॉट /hr | कार्रवाइयाँ |
|---|---|---|---|---|---|---|---|---|
| RunPod | A40 | 48 GB | 1 | — | Global (secure + community cloud) | $0.3500 सर्वोत्तम मूल्य | — | अभी किराए पर लें |
कोई ऑफ़र इन फ़िल्टर से मेल नहीं खाता। मूल्य सीमा ढीली करें या खोज साफ़ करें।
कौन से GPU A40 के साथ अच्छी तरह काम करते हैं?
LLM VRAM कैलकुलेटर का उपयोग करके जाँचें कि क्या कोई विशिष्ट मॉडल एक A40 में फिट होता है, और लागत अनुमानकर्ता का उपयोग करके प्रति घंटा दर को मासिक बजट में बदलें जिसमें स्टोरेज और ईग्रेस शामिल हों।
A40 की अन्य GPU के साथ तुलना
अक्सर पूछे जाने वाले प्रश्न
मूल्य निर्धारण कैसे काम करता है, हम इसे कैसे एकत्र करते हैं, और यह साइट कैसे वित्तपोषित होती है।
एलएलएम इन्फरेंस के लिए कौन-से GPU सबसे अच्छे हैं?
जिन मॉडल्स मेमोरी में फिट हो जाते हैं, उनके लिए रॉ FLOPS से ज़्यादा महत्वपूर्ण मेमोरी बैंडवidth है, इसलिए L40S, RTX 4090 या A100 जैसे कार्ड अक्सर H100 से बेहतर टोकन-प्रति-डॉलर देते हैं। जब मॉडल को मल्टी-GPU टेंसर पैरलेलिज़्म की ज़रूरत होती है, तब NVLink से लैस H100 या H200 इंस्टेंस आमतौर पर बेहतर रहते हैं।
मॉडल को फाइन-ट्यून करने के लिए कितनी VRAM चाहिए?
फुल फाइन-ट्यूनिंग में वज़न के लिए लगभग पैरामीटर काउंट × प्रति पैरामीटर बाइट्स की VRAM चाहिए, और इसके साथ ऑप्टिमाइज़र स्टेट भी चाहिए, जो कई गुना बड़ी हो सकती है। LoRA और QLoRA ऑप्टिमाइज़र की मेमोरी की ज़रूरत बहुत कम कर देते हैं। सही कॉन्फ़िगरेशन तय करने के लिए LLM VRAM कैलकुलेटर का इस्तेमाल करें।
GPU किराए पर लेना बेहतर है या खरीदना?
जब तक आप डिवाइस को साल के बड़े हिस्से में इस्तेमाल में न रख सकें, किराया लेना आमतौर पर सस्ता पड़ता है। क्लाउड किराये में हार्डवेयर रीफ़्रेश का खर्च भी प्रोवाइडर पर शिफ्ट हो जाता है।
एक जैसे GPU मॉडल की कीमतें अलग-अलग क्यों होती हैं?
कॉन्फ़िगरेशन अलग होते हैं: हर इंस्टेंस में GPU की संख्या, सिस्टम RAM और vCPU, लोकल डिस्क, रीज़न, और यह कि कैपेसिटी इंटरप्टेबल है या नहीं। हम सभी को एक ही GPU के आधार पर नॉर्मलाइज़ करते हैं, ताकि आप इन अंतरों को आसानी से समझ सकें।