Ratgeber
H100 mieten Preis pro Stunde: So kalkulierst du dein GPU-Budget richtig
Wenn du dich mit h100 mieten preis pro stunde beschäftigst, geht es selten um die reine Zahl auf der Anbieter-Website. Es geht um die Frage, ob dein Training in drei Tagen fertig wird oder in drei Wochen – und was das an realen Kosten bedeutet. Ich miete seit Jahren Cloud-GPUs für LLM-Training und Inference, und ich kann dir sagen: Die Stundentarife sind nur die halbe Wahrheit. Netzwerk, Speicher, Spot-Verfügbarkeit und die Art der Anbindung (PCIe oder NVLink) entscheiden am Ende über deine tatsächlichen Kosten pro trainiertem Token.
Was kostet eine H100-Stunde wirklich – und warum die Preise so stark schwanken
Die h100 gpu mieten kosten pro stunde liegen bei den großen Anbietern grob zwischen 2 und 4 US-Dollar für die SXM-Variante mit 80 GB HBM3. Aber das ist nur der Listenpreis. Bei Spot-Instanzen oder bei weniger bekannten Resellern wie Vast.ai findest du oft Angebote für 1,50 bis 2,50 US-Dollar. Der Haken: Diese Maschinen sind meist ältere PCIe-Versionen oder haben schlechtere Interconnect-Bandbreiten. Für ein einzelnes feines Modell kann das reichen, für verteiltes Training über mehrere GPUs wird es schnell zum Flaschenhals.
Ein Beispiel aus meinem Alltag: Für ein 7B-Modell mit LoRA reicht eine einzelne H100 locker. Da ist der günstigste Anbieter meist die beste Wahl. Aber sobald ich ein 70B-Modell mit DeepSpeed ZeRO-Phase 3 auf vier GPUs trainieren will, ist die NVLink-Bandbreite entscheidend. Da zahlst du lieber 3,50 US-Dollar pro Stunde für ein ordentliches NVLink-Cluster als 2,00 US-Dollar für vier über Ethernet gekoppelte Karten – sonst stehst du die halbe Zeit auf Kommunikations-Overhead.
Der h100 cloud preis vergleich anbieter: Was du wirklich vergleichen musst
Ein reiner h100 cloud preis vergleich anbieter nach Dollar pro Stunde führt dich schnell in die Irre. Die Anbieter rechnen unterschiedlich ab: Manche laden Netzwerk-Ingress, andere Speicher pro GB pro Monat, wieder andere haben Mindestlaufzeiten. Ich vergleiche immer die „effektiven Kosten pro Stunde“ – also (Miete + Speicher + Datenübertragung) geteilt durch die tatsächlich nutzbare Rechenzeit.
RunPod und Vast.ai im direkten Vergleich
Wenn du dich für h100 mieten bei runpod und vast.ai interessierst, musst du die Unterschiede kennen. RunPod ist bequem: Fertige Templates, schnelles Provisioning, zuverlässiger Support. Dafür zahlst du einen Aufpreis. Vast.ai ist der Marktplatz mit den günstigsten Preisen, aber du mietest bei privaten Anbietern – die Hardware kann abgenutzt sein, und die Netzwerk-Performance schwankt. Ich habe auf Vast schon für 1,80 US-Dollar pro Stunde eine H100 bekommen, aber auch schon eine, die nach zwei Stunden wegen eines Host-Ausfalls weg war.
Mein Tipp für den Einstieg: Teste beide Plattformen mit einem kurzen Benchmark. Starte auf jeder eine H100 für eine Stunde, trainiere ein kleines Modell und miss die effektive Durchsatzrate. Der günstigere Anbieter ist nicht automatisch der günstigere pro nutzbarer Stunde.
H100 PCIe vs NVLink mieten: Wann sich der Aufpreis lohnt
Die Frage h100 pcie vs nvlink mieten entscheidet sich an deiner Workload. Die PCIe-Variante hat eine NVLink-Bandbreite von 600 GB/s, die SXM-Version mit voller NVLink-Anbindung erreicht 900 GB/s pro GPU. Für Inference oder Single-GPU-Fine-Tuning ist das egal. Für Multi-GPU-Training mit Tensor Parallelism ist es der Unterschied zwischen 70% und 90% Skalierungseffizienz.
Konkret: Ein 8x H100 NVLink-Cluster skaliert bei einem 13B-Modell fast linear. Das gleiche Modell auf 8x PCIe über InfiniBand hat oft nur 60-70% Effizienz. Du mietest also 8 GPUs, nutzt aber nur 5,6. Da ist der höhere Stundenpreis für NVLink auf einmal günstiger. Für reine Datenparallelität (z.B. bei RLHF mit mehreren Replicas) reicht PCIe aber völlig aus – da sparst du dir den Aufpreis.
H100 Cluster mieten für KI: Skalierung und was sie kostet
Wer h100 cluster mieten für ki will, steht vor einer anderen Preislandschaft. Ein vollständiges 8-GPU-NVLink-Cluster kostet bei den großen Hyperscalern oft 25 bis 35 US-Dollar pro Stunde. Das klingt teuer, ist aber oft günstiger als acht Einzel-GPUs bei verschiedenen Anbietern, weil du dir die Netzwerk-Integration sparst.
Wichtig ist auch die Speicheranbindung: Beim Training musst du Checkpoints schreiben. Wenn dein Cluster nur langsamen Objektspeicher hat, verlierst du pro Stunde 10-15 Minuten durch Checkpointing. Ich rechne immer mit einem Overhead von 15% auf die reine Rechenzeit. Ein Anbieter, der lokale NVMe-SSDs mit 3 TB bietet, ist mir lieber als einer mit 500 GB – auch wenn er 10% teurer ist.
H100 mieten für LLM Training: Kostenbeispiele aus der Praxis
Lass uns das mit h100 mieten für llm training konkret machen. Angenommen, du willst ein 7B-Modell für 3 Epochen auf 1 Million Tokens feintunen. Das dauert auf einer H100 etwa 4 Stunden. Bei 2,50 US-Dollar pro Stunde sind das 10 US-Dollar. Klingt günstig – ist es auch.
Für ein 70B-Modell von Grund auf zu trainieren, brauchst du aber eher 500 bis 1000 GPU-Stunden. Bei 3 US-Dollar pro Stunde sind das 1.500 bis 3.000 US-Dollar. Und da ist noch kein Speicher, keine Datenübertragung und kein fehlgeschlagener Lauf dabei. Du solltest also immer ein Budget für Wiederholungen einplanen. Bei Spot-Instanzen kannst du zwar sparen, aber wenn der Anbieter die Instanz mitten im Training kündigt, verlierst du den Fortschritt seit dem letzten Checkpoint.
Der h100 gpu stundenpreis vergleich in der Praxis
Ein guter h100 gpu stundenpreis vergleich sieht für mich so aus: Ich sammle die Preise von 5-6 Anbietern für die gleiche Konfiguration (H100 SXM, 80 GB, 2 TB NVMe, 1 Gbit/s Netzwerk). Dann berechne ich die effektiven Kosten mit einem angenommenen Skalierungsfaktor von 0,9 für Einzel-GPU-Jobs und 0,75 für Multi-GPU-Jobs. Die Rangfolge verschiebt sich dann oft deutlich gegenüber der reinen Preisliste.
H200 mieten preis pro stunde: Ist der Nachfolger den Aufpreis wert?
Wenn du schon beim Vergleich bist, solltest du auch den h200 mieten preis pro stunde im Blick haben. Die H200 hat 141 GB HBM3e und mehr Speicherbandbreite, kostet aber oft 30-50% mehr als die H100. Für Inference mit großen Batch-Sizes oder für Modelle, die mehr als 80 GB VRAM brauchen, kann sich das lohnen. Für Standard-Fine-Tuning auf 7B-13B-Modellen ist die H100 meist die bessere Wahl – die zusätzliche Bandbreite bringt dort kaum Speedup.
Ein Praxisbeispiel: Ich habe ein 30B-Modell mit 4K-Kontext auf einer H200 laufen lassen, weil es nicht in 80 GB passte. Auf zwei H100 hätte ich Tensor Parallelism nutzen müssen, was die Kommunikation erhöht. Am Ende war die H200 für 4,50 US-Dollar pro Stunde günstiger als zwei H100 für je 3,00 US-Dollar – und einfacher zu handhaben.
Wie du den richtigen Anbieter für dein Budget findest
Mein Abschluss-Tipp: Miete nie eine H100 für einen ganzen Monat im Voraus, wenn du nicht sicher bist, dass du sie durchgehend brauchst. Die Stundentarife sind bei On-Demand-Anbietern zwar höher, aber du kannst nach jedem Training stoppen. Bei Resellern wie Vast.ai gibt es oft Rabatte für längere Laufzeiten, aber du trägst das Risiko von Ausfällen.
Erstelle dir eine kleine Tabelle mit deinen Anforderungen: Anzahl GPUs, Interconnect, Speicher, maximale Laufzeit. Dann vergleiche die Angebote von RunPod, Vast.ai, Lambda, und den großen drei Hyperscalern. Notiere die effektiven Kosten pro Stunde inklusive Speicher. Und vergiss nicht: Die beste GPU ist die, die dein Training schnell genug beendet – nicht die mit dem niedrigsten Stundentarif.
Häufige Fragen zum H100-Mieten
Was kostet eine H100 pro Stunde bei den großen Cloud-Anbietern?
Die Preise variieren stark, liegen aber bei On-Demand-Instanzen meist zwischen 2,50 und 4,00 US-Dollar pro Stunde für die SXM-Variante. Spot-Instanzen oder Community-Marktplätze wie Vast.ai können günstiger sein, haben aber Nachteile bei Verfügbarkeit und Performance. Es lohnt sich, die effektiven Kosten inklusive Speicher und Netzwerk zu berechnen.
Lohnt sich das Mieten einer H100 für LLM-Fine-Tuning?
Ja, für die meisten Projekte ist Mieten günstiger als Kaufen. Ein einzelnes Fine-Tuning eines 7B-Modells kostet oft unter 20 US-Dollar. Für größere Modelle oder längere Trainings solltest du die Kosten vorab kalkulieren. Wenn du mehr als 500 Stunden pro Monat rechnest, kann ein Reserved Contract oder ein eigenes System interessant werden.
Was ist der Unterschied zwischen H100 PCIe und NVLink beim Mieten?
Die NVLink-Version (SXM) hat eine höhere Interconnect-Bandbreite und ist für Multi-GPU-Training besser geeignet. PCIe-Versionen sind günstiger, aber bei verteiltem Training langsamer. Für Single-GPU-Jobs oder Inference ist PCIe völlig ausreichend. Für Tensor Parallelism solltest du immer NVLink wählen, sonst leidet die Skalierung.
Kann ich eine H100 für ein einzelnes Experiment mieten?
Ja, die meisten Anbieter rechnen stundenweise ab, manche sogar minutenweise. Du kannst also eine H100 für 2 Stunden mieten, um ein kleines Modell zu testen. Achte nur auf Mindestlaufzeiten oder Einrichtungsgebühren, die manche Plattformen erheben. On-Demand-Modelle sind dafür am flexibelsten.
Wie finde ich den günstigsten H100-Anbieter?
Vergleiche nicht nur den Stundenpreis, sondern auch Speicherkosten, Netzwerk-Gebühren und Ausfallraten. Plattformen wie Vast.ai sind oft am günstigsten, aber weniger zuverlässig. RunPod bietet einen guten Kompromiss aus Preis und Komfort. Teste jeden Anbieter mit einem Benchmark, um die reale Leistung zu prüfen.
Ist die H200 den höheren Preis gegenüber der H100 wert?
Die H200 hat mehr VRAM und Bandbreite, kostet aber auch deutlich mehr. Für Modelle, die mehr als 80 GB Speicher benötigen oder stark speicherbandbreiten-lastig sind, lohnt sich der Aufpreis. Für Standard-Fine-Tuning ist die H100 meist die wirtschaftlichere Wahl. Entscheide also basierend auf deiner Workload, nicht auf dem Marketing.