Индекс цен на GPU
Цены на аренду A40 в облаке
Все провайдеры, предлагающие A40 сейчас, приведены к одной GPU в час, с историей цен за 30 дней.
Исследование GPUCloudCompare Research
A40 вкратце
- Память
- 48 GB
- Архитектура
- Ampere
- Пропускная способность памяти
- 696 GB/s
- Пропускная способность Dense FP16
- 150 TFLOPS*
Данные, опубликованные вендором, с разреженностью там, где это указано вендором. Всегда проверяйте в официальной спецификации перед планированием кластера.
Полное сравнение цен
Фильтрация и сортировка работают локально в браузере — состояние фильтра сохраняется в URL, поэтому отфильтрованный вид можно поделиться.
| Провайдер | Модель GPU | VRAM | GPU | vCPU | Регион | По запросу /hr | Спот /hr | Действия |
|---|---|---|---|---|---|---|---|---|
| RunPod | A40 | 48 GB | 1 | — | Global (secure + community cloud) | $0.3500 Лучшая цена | — | Арендовать сейчас |
Нет предложений, соответствующих этим фильтрам. Снимите ограничение по цене или очистите поиск.
Какие GPU хорошо сочетаются с A40?
Воспользуйтесь калькулятором VRAM для LLM, чтобы проверить, помещается ли конкретная модель в одну A40, и калькулятором затрат, чтобы перевести часовую ставку в месячный бюджет с учётом хранения и исходящего трафика.
A40 в сравнении с другими GPU
Часто задаваемые вопросы
Как работает ценообразование, как мы собираем данные и как финансируется этот сайт.
Какие GPU лучше всего подходят для инференса LLM?
Для моделей, помещающихся в память, пропускная способность памяти важнее, чем сырые FLOPS, поэтому карты вроде L40S, RTX 4090 или A100 часто дают больше токенов за доллар, чем H100. Когда модели требуется тензорный параллелизм на нескольких GPU, инстансы H100 или H200 с NVLink обычно выигрывают.
Сколько VRAM нужно для дообучения модели?
Полное дообучение требует примерно количество параметров, умноженное на байты на параметр для весов, плюс состояние оптимизатора, которое может быть в несколько раз больше. LoRA и QLoRA резко уменьшают потребность в памяти оптимизатора. Используйте калькулятор VRAM для LLM, чтобы подобрать конфигурацию.
Что дешевле: арендовать или купить GPU?
Аренда обычно выгоднее, если только вы не можете держать устройство загруженным большую часть года. Облачная аренда также перекладывает затраты на обновление оборудования на провайдера.
Почему у одних и тех же моделей GPU разные цены?
Конфигурации различаются: количество GPU на инстанс, системная RAM и vCPU, локальный диск, регион и возможность прерывания емкости. Мы нормализуем к одному GPU, чтобы вы могли увидеть сквозь эти различия.