GPU 價格指數
A100 PCIe 雲端租用價格
所有目前提供 A100 PCIe 的供應商，價格已換算為單張 GPU 每小時費用，並附上 30 天價格歷程。
40 GB VRAM
Ampere
1.55 TB/s
2 筆報價
A100 PCIe 快速概覽
- 記憶體
- 40 GB
- 架構
- Ampere
- 記憶體頻寬
- 1.55 TB/s
- 密集 FP16 吞吐量
- 312 TFLOPS*
廠商公布數值，若廠商標示稀疏性則已包含。規劃叢集前請務必以官方資料表為準。
完整價格比較
篩選與排序在瀏覽器本地執行 — 篩選狀態保留在網址中，因此篩選後的視圖可直接分享。
A100 PCIe 與其他 GPU 比較
常見問題
定價運作方式、資料蒐集流程，以及本站資金來源。
哪些 GPU 最適合 LLM 推理？
對於能放進顯存的模型，記憶體頻寬比單純浮點運算更關鍵，因此 L40S、RTX 4090 或 A100 常能比 H100 提供更高的每美元 token 吞吐。一旦模型需要多 GPU 張量並行，配備 NVLink 的 H100 或 H200 實例通常更具優勢。
微調模型需要多少 VRAM？
全參數微調大約需要「參數量 × 每參數位元組」的權重空間，加上優化器狀態（可能是權重的數倍）。LoRA 與 QLoRA 能大幅降低優化器佔用。請使用 LLM VRAM 計算機來評估所需配置。
租用 GPU 比購買划算嗎？
除非你能讓裝置全年保持高使用率，否則租用通常更划算。雲端租用還能將硬體更新換代的成本轉嫁給供應商。
為什麼相同 GPU 型號價格不同？
配置不同：每實例 GPU 數量、系統記憶體與 vCPU、本地磁碟、區域、以及是否為中斷式（搶佔式）容量。我們將價格正規化到單張 GPU，讓你能看清這些差異。