GPU 价格指数
H100 SXM 云端租用价格
所有目前提供 H100 SXM 的供应商，价格已换算为单张 GPU 每小时费用，并附上 30 天价格历程。
80 GB VRAM
Hopper
3.35 TB/s
2 条报价
H100 SXM 快速概览
- 内存
- 80 GB
- 架构
- Hopper
- 内存带宽
- 3.35 TB/s
- 密集 FP16 吞吐量
- 989 TFLOPS*
厂商公布数值，若厂商标示稀疏性则已包含。规划集群前请务必以官方数据表为准。
完整价格比较
筛选与排序在浏览器本地运行 — 筛选状态保留在网址中，因此筛选后的视图可直接分享。
H100 SXM 与其他 GPU 比较
常见问题
定价运作方式、数据搜集流程，以及本站资金来源。
哪些 GPU 最适合 LLM 推理？
对于能放进显存的模型，内存带宽比单纯浮点运算更关键，因此 L40S、RTX 4090 或 A100 常能比 H100 提供更高的每美元 token 吞吐。一旦模型需要多 GPU 张量并行，配备 NVLink 的 H100 或 H200 实例通常更具优势。
微调模型需要多少 VRAM？
全参数微调大约需要「参数量 × 每参数字节」的权重空间，加上优化器状态（可能是权重的数倍）。LoRA 与 QLoRA 能大幅降低优化器占用。请使用 LLM VRAM 计算机来评估所需配置。
租用 GPU 比购买划算吗？
除非你能让设备全年保持高使用率，否则租用通常更划算。云端租用还能将硬件更新换代的成本转嫁给供应商。
为什么相同 GPU 型号价格不同？
配置不同：每实例 GPU 数量、系统内存与 vCPU、本地磁盘、区域、以及是否为中断式（抢占式）容量。我们将价格范式到单张 GPU，让你能看清这些差异。