प्रश्न
अक्सर पूछे जाने वाले प्रश्न
मूल्य निर्धारण कैसे काम करता है, हम इसे कैसे एकत्र करते हैं, और यह साइट कैसे वित्तपोषित होती है।
अक्सर पूछे जाने वाले प्रश्न
मूल्य निर्धारण कैसे काम करता है, हम इसे कैसे एकत्र करते हैं, और यह साइट कैसे वित्तपोषित होती है।
क्या यह साइट GPU मार्केटप्लेस है?
नहीं। हम कंप्यूट बेचते, रीसेल या ब्रोकर नहीं करते और कभी भुगतान नहीं लेते। हम प्रदाताओं के सार्वजनिक पृष्ठों से एकत्रित सामान्यीकृत मूल्य प्रकाशित करते हैं और आपको प्रदाता से जोड़ते हैं ताकि आप सीधे उनसे किराए पर ले सकें।
कीमतें कितनी बार अपडेट होती हैं?
एक शेड्यूल्ड कलेक्टर हर दिन 02:00 UTC पर चलता है। हर टेबल अंतिम सफल संग्रह का टाइमस्टैम्प दिखाता है। यदि कोई स्रोत विफल होता है, तो रन लॉग किया जाता है और अलर्ट उठाया जाता है बजाय चुपचाप पुराने डेटा का पुन: उपयोग करने के।
आप पैसे कैसे कमाते हैं?
एफिलिएट पार्टनरशिप के माध्यम से। यदि आप किसी प्रदाता लिंक पर क्लिक करते हैं और बाद में कंप्यूट के लिए भुगतान करते हैं, तो प्रदाता हमें कमीशन दे सकता है। आप कभी अधिक भुगतान नहीं करते, और कमीशन इस साइट पर कीमतों, क्रम या निर्णयों को कभी नहीं बदलते।
यहां ऑन-डिमांड और स्पॉट का क्या अर्थ है?
ऑन-डिमांड का अर्थ है कि इंस्टेंस तब तक आपका रहता है जब तक आप भुगतान करते हैं। स्पॉट या इंटरप्टिबल क्षमता को होस्ट द्वारा पुनः प्राप्त किया जा सकता है और इसलिए यह सस्ता है। कीमतों को प्रति घंटा एक GPU के लिए सामान्यीकृत किया जाता है।
क्या मुझे कैलकुलेटर उपयोग करने के लिए खाते की आवश्यकता है?
नहीं। दोनों कैलकुलेटर पूरी तरह से आपके ब्राउज़र में चलते हैं और परिणाम URL फ्रैगमेंट में संग्रहीत होते हैं, ताकि आप कॉन्फ़िगरेशन को बुकमार्क या साझा कर सकें। कुछ भी हमारे सर्वर पर नहीं भेजा जाता।
कुछ प्रदाता GPU के लिए कोई कीमत क्यों नहीं दिखाते?
या तो प्रदाता वर्तमान में उस मॉडल को सूचीबद्ध नहीं करता, या यह सूचीबद्ध था लेकिन अंतिम संग्रह से पहले वापस ले लिया गया। हम आविष्कृत संख्या दिखाने के बजाय अंतर दिखाना पसंद करते हैं।
सस्ता प्रदाता कैसे तय किया जाता है?
दोनों प्रदाताओं द्वारा सूचीबद्ध प्रत्येक GPU मॉडल के लिए, हम सामान्यीकृत सिंगल-GPU प्रति घंटा कीमत की तुलना करते हैं। जिन मॉडलों को केवल एक पक्ष प्रदान करता है, उन्हें बाहर रखा जाता है, क्योंकि यह समान तुलना नहीं है।
क्या सस्ता विकल्प हमेशा सही होता है?
हमेशा नहीं। मार्केटप्लेस क्षमता को कम सूचना पर पुनः प्राप्त किया जा सकता है और होस्ट नेटवर्क और डिस्क प्रदर्शन में भिन्न होते हैं, जबकि एक समर्पित क्लाउड अधिक अनुमानित थ्रूपुट देता है। मल्टी-नोड प्रशिक्षण के लिए, NVLink समर्थन अक्सर प्रति घंटे कुछ सेंट से अधिक मायने रखता है।
क्या स्पॉट कीमतें प्रदाताओं के बीच सीधे तुलनीय हैं?
केवल मोटे तौर पर। प्रत्येक प्लेटफ़ॉर्म रुकावट नियमों, सूचना अवधि और पुनः प्राप्ति व्यवहार को अलग-अलग परिभाषित करता है। स्पॉट कीमतों को सबसे सस्ती प्राप्त करने योग्य दर के संकेत के रूप में लें, गारंटीकृत कीमत के रूप में नहीं।
प्रति माह के बजाय प्रति घंटा कीमतें क्यों दिखाएं?
अधिकांश प्रदाता सेकंड या घंटे के हिसाब से बिल करते हैं। प्रति घंटा दर को मासिक बजट में बदलने के लिए GPU लागत अनुमानक का उपयोग करें।
एलएलएम इन्फरेंस के लिए कौन-से GPU सबसे अच्छे हैं?
जिन मॉडल्स मेमोरी में फिट हो जाते हैं, उनके लिए रॉ FLOPS से ज़्यादा महत्वपूर्ण मेमोरी बैंडवidth है, इसलिए L40S, RTX 4090 या A100 जैसे कार्ड अक्सर H100 से बेहतर टोकन-प्रति-डॉलर देते हैं। जब मॉडल को मल्टी-GPU टेंसर पैरलेलिज़्म की ज़रूरत होती है, तब NVLink से लैस H100 या H200 इंस्टेंस आमतौर पर बेहतर रहते हैं।
मॉडल को फाइन-ट्यून करने के लिए कितनी VRAM चाहिए?
फुल फाइन-ट्यूनिंग में वज़न के लिए लगभग पैरामीटर काउंट × प्रति पैरामीटर बाइट्स की VRAM चाहिए, और इसके साथ ऑप्टिमाइज़र स्टेट भी चाहिए, जो कई गुना बड़ी हो सकती है। LoRA और QLoRA ऑप्टिमाइज़र की मेमोरी की ज़रूरत बहुत कम कर देते हैं। सही कॉन्फ़िगरेशन तय करने के लिए LLM VRAM कैलकुलेटर का इस्तेमाल करें।
GPU किराए पर लेना बेहतर है या खरीदना?
जब तक आप डिवाइस को साल के बड़े हिस्से में इस्तेमाल में न रख सकें, किराया लेना आमतौर पर सस्ता पड़ता है। क्लाउड किराये में हार्डवेयर रीफ़्रेश का खर्च भी प्रोवाइडर पर शिफ्ट हो जाता है।
एक जैसे GPU मॉडल की कीमतें अलग-अलग क्यों होती हैं?
कॉन्फ़िगरेशन अलग होते हैं: हर इंस्टेंस में GPU की संख्या, सिस्टम RAM और vCPU, लोकल डिस्क, रीज़न, और यह कि कैपेसिटी इंटरप्टेबल है या नहीं। हम सभी को एक ही GPU के आधार पर नॉर्मलाइज़ करते हैं, ताकि आप इन अंतरों को आसानी से समझ सकें।
GPU लागत अनुमानकर्ता कितना सटीक है?
यह एकत्रित प्रति घंटा मूल्य को आपकी नियोजित घंटों से गुणा करता है और बताई गई धारणाओं का उपयोग करके स्टोरेज और एग्रेस जोड़ता है। यह एक बजट उपकरण है, कोटेशन नहीं: चालान में कर, निष्क्रिय समय और न्यूनतम बिलिंग अंतराल शामिल होते हैं।
LLM VRAM कैलकुलेटर कैसे काम करता है?
यह पैरामीटर संख्या और परिशुद्धता से वजन मेमोरी, अटेंशन ज्यामिति से KV कैश की गणना करता है, और सक्रियण और फ्रेमवर्क ओवरहेड के लिए वजन का लगभग 15% जोड़ता है।