GPU Cloud Kosten pro Monat: Was du als ML-Team wirklich einplanen musst

Wenn du GPU Cloud Kosten pro Monat googelst, findest du meist Listen mit Stundenpreisen. Aber das ist nicht das Budget, das du brauchst. Als ich letztes Jahr ein Fine-Tuning-Projekt für ein 7B-Modell kalkuliert habe, lag meine erste Schätzung 60 Prozent daneben – nicht wegen der Hardware, sondern wegen der Nebenkosten. In diesem Artikel zeige ich dir, wie du von der reinen Stundenzahl zu einer realistischen Monatszahl kommst. Ohne Marketing-Geflunker, nur mit dem, was in der Praxis zählt.

Der Grundfehler bei der Monatskalkulation

Die meisten Teams multiplizieren einen Stundenpreis mit 730 Stunden (24×30) und denken, das sei das monatliche Maximum. Falsch. Du mietest keine GPU für einen Monat, du mietest GPU-Stunden, die du nutzt. Bei On-Demand-Instanzen zahlst du nur die tatsächliche Laufzeit. Bei reservierten Kapazitäten zahlst du den vollen Monat, auch wenn die GPU 20 Tage idle steht. Die GPU Cloud Kosten pro Monat hängen also zuerst von deiner Nutzungsform ab.

Konkret: Eine H100 für 2,50 €/Stunde (Beispiel, Preise variieren) kostet bei 100 Stunden Nutzung 250 €. Bei 730 Stunden wären es 1.825 €. Der Unterschied ist enorm. Für ein ML-Team, das nur nachts trainiert, lohnt sich On-Demand. Für ein Team, das rund um die Uhr Inference betreibt, ist eine reservierte Instanz oder ein Spot-Contract oft günstiger.

Die drei Kostentreiber: Training, Inference und Testen

Du musst deine GPU Cloud Kosten pro Monat nach Workload-Typ aufschlüsseln. Training ist offensichtlich, aber Inference und Experimente fressen oft mehr Budget als gedacht.

Training: Die planbare Basis

Ein typisches Fine-Tuning eines 13B-Modells auf 100k Tokens braucht auf einer A100 (80GB) etwa 8–12 Stunden. Bei einem Stundensatz von 1,80 € sind das 14–22 € pro Lauf. Bei 20 Experimenten pro Monat landest du bei 280–440 €. Das ist planbar.

Inference: Der versteckte Dauerläufer

Wenn dein Modell produktiv läuft, läuft die GPU 24/7. Eine L40S für 0,90 €/Stunde kostet 648 € pro Monat bei Dauerbetrieb. Das ist oft das größte Budget-Paket. Viele Teams vergessen, dass sie für Inference nicht die teuerste H100 brauchen – eine L40S oder A10 reicht für viele Workloads aus.

Testen und Entwicklung: Der Budget-Vielfraß

Das ist der heimliche Kostentreiber. Jeder ML-Entwickler startet Instanzen, um etwas auszuprobieren, und vergisst sie zu stoppen. Bei einem Team von fünf Leuten mit je 20 vergessenen Stunden pro Monat à 1,50 € sind das 150 € – einfach so. Ein Budget für GPU Cloud Kosten pro Monat muss diese Leerläufe explizit einkalkulieren oder du brauchst strikte Auto-Stop-Regeln.

Praxisbeispiel: Ein 7B-Modell für einen Chatbot

Ich nehme ein realistisches Szenario: Du willst ein 7B-Modell auf einem eigenen Datensatz feintunen und dann als API bereitstellen. So sieht die Rechnung aus:

Das ist ein realistischer Monatswert für ein kleines Team. Wer nur gelegentlich trainiert, kommt mit 300–500 € aus. Wer ein großes Modell von Grund auf trainiert, liegt schnell bei 10.000 €+. Die Spannweite ist riesig.

Spot-Instanzen und Reservierungen: Wo du sparen kannst

Die GPU Cloud Kosten pro Monat lassen sich deutlich drücken, wenn du flexibel bist. Spot-Instanzen (auch Preemptible genannt) sind 50–70 Prozent günstiger, können aber jederzeit unterbrochen werden. Für Training mit Checkpointing ist das ideal – du startest einfach neu. Für produktive Inference sind sie ungeeignet.

Reservierte Instanzen (1–3 Jahre Laufzeit) kosten oft nur 40–60 Prozent des On-Demand-Preises. Aber Achtung: Du bist an die Laufzeit gebunden. Wenn dein Projekt sich ändert, sitzt du auf der Kapazität. Meine Faustregel: Erst mit On-Demand starten, dann wenn der Workload stabil ist, auf reservierte Instanzen wechseln.

Regionale Preisunterschiede und Anbieterwahl

Die GPU Cloud Kosten pro Monat hängen auch vom Standort ab. US-Regionen (us-east, us-west) sind oft günstiger als EU-Regionen. Aber: Wenn deine Daten in Deutschland liegen müssen (DSGVO, Latenz), dann bleibt dir nur die EU. Die Preisunterschiede zwischen Anbietern sind real – ein großer Hyperscaler kann 30 Prozent teurer sein als ein spezialisierter GPU-Anbieter.

Was ich dir rate: Schau nicht nur auf den Stundensatz, sondern auf die Gesamtkosten. Manche Anbieter haben niedrigere Stundenpreise, aber hohe Netzwerkgebühren oder teuren Datentransfer. Ein Beispiel: Ein Anbieter verlangt 0,10 € pro GB ausgehendem Traffic. Wenn du täglich 50 GB Modellgewichte und Logs exportierst, sind das 150 € pro Monat zusätzlich. Das ändert die Rechnung.

Budget-Überwachung: So bleibst du im Rahmen

Du kannst die GPU Cloud Kosten pro Monat nicht kontrollieren, wenn du sie nicht misst. Ich nutze ein einfaches Dashboard mit drei Metriken: Kosten pro GPU-Stunde, Auslastung (genutzte vs. gemietete Stunden) und Kosten pro Experiment. Das reicht. Für die meisten Teams ist ein monatliches Budget von 1.000–2.000 € realistisch, wenn du regelmäßig trainierst und eine kleine Inference-Last hast.

Konkrete Tipps, die ich selbst anwende:

• Auto-Stop für alle Entwicklungsinstanzen nach 2 Stunden Inaktivität.
• Checkpointing alle 15 Minuten bei Spot-Instanzen – dann ist ein Abbruch kein Drama.
• Batch-Inference statt Echtzeit, wenn dein Use-Case es erlaubt – das senkt die Laufzeit drastisch.
• Kostenalerts bei 80 Prozent des Monatsbudgets.

Fazit: Die ehrliche Antwort auf die Budget-Frage

Die GPU Cloud Kosten pro Monat sind keine feste Zahl, sondern eine Funktion aus Workload, Nutzungsdauer und Anbieter. Für ein kleines ML-Team in Deutschland sind 1.000–1.500 € pro Monat ein realistischer Richtwert, wenn du regelmäßig trainierst und eine kleine Inference-Instanz betreibst. Wer nur sporadisch arbeitet, kommt mit 200–400 € aus. Wer ein Foundation-Modell trainieren will, braucht ein sechsstelliges Budget – aber das ist eine andere Geschichte.

Wichtig ist: Rechne nicht mit Stundenpreisen, sondern mit Monatsszenarien. Plane Puffer für vergessene Instanzen ein. Und prüfe die Nebenkosten, nicht nur den Stundensatz. Damit liegst du besser als die meisten Teams, die ich kenne.