Rechner

LLM-VRAM-Rechner

Berechnen Sie, wie viel GPU-Speicher ein LLM für Gewichte, KV-Cache und Aktivierungen braucht – und welche GPUs geeignet sind.

Mit einem bekannten Modell starten
70B
1
80
8
128

Der KV-Cache wird in FP16 berechnet: 2 × Layer × KV-Heads × Head-Dimension × Kontext × Batch. Aktivierungen und Framework-Overhead werden mit 15 % der Gewichte angesetzt.

Häufige Fragen

Alles rund um Cloud-GPU-Miete, Affiliate-Tracking und unsere Preisdatenerhebung.

Wie genau ist der GPU-Kostenrechner?

Er multipliziert den erhobenen Stundenpreis mit Ihren geplanten Laufzeitstunden und addiert Speicher und Egress zu den genannten Annahmen. Es ist ein Budgetwerkzeug, kein Angebot: Rechnungen enthalten Steuern, Leerlaufzeiten und Mindestabrechnungsintervalle.

Wie funktioniert der LLM-VRAM-Rechner?

Er berechnet den Gewichtsspeicher aus Parameteranzahl und Präzision, den KV-Cache aus der Attention-Geometrie (2 x Layer x KV-Heads x Head-Dimension x Kontext x Batch, in FP16) und addiert 15 Prozent der Gewichte für Aktivierungen und Framework-Overhead.