Вопросы
Часто задаваемые вопросы
Как работает ценообразование, как мы собираем данные и как финансируется этот сайт.
Часто задаваемые вопросы
Как работает ценообразование, как мы собираем данные и как финансируется этот сайт.
Является ли этот сайт маркетплейсом GPU?
Нет. Мы не продаём, не перепродаём и не брокерируем вычислительные мощности и никогда не принимаем платежи. Мы публикуем нормализованные цены, собранные с публичных страниц провайдеров, и перенаправляем вас к провайдеру, чтобы вы арендовали ресурсы напрямую у них.
Как часто обновляются цены?
Планировщик собирает данные каждый день в 02:00 UTC. В каждой таблице отображается время последнего успешного сбора. Если источник недоступен, запуск логируется и поднимается алерт, а не используются устаревшие данные молча.
Как вы зарабатываете?
Через партнёрские программы. Если вы переходите по ссылке провайдера и позже оплачиваете вычисления, провайдер может выплатить нам комиссию. Вы никогда не платите больше, а комиссии никак не влияют на цены, порядок или выводы на этом сайте.
Что означают on-demand и spot здесь?
On-demand означает, что инстанс остаётся у вас, пока вы платите. Spot или прерываемая емкость может быть отозвана хостом и поэтому дешевле. Цены нормализованы к одному GPU в час.
Нужен ли аккаунт для использования калькуляторов?
Нет. Оба калькулятора работают полностью в вашем браузере, а результаты хранятся в фрагменте URL, поэтому вы можете добавить конфигурацию в закладки или поделиться ею. Никакие данные не отправляются на наши серверы.
Почему у некоторых провайдеров нет цены для GPU?
Либо провайдер в данный момент не указывает эту модель, либо она была в списке, но удалена до последнего сбора. Мы предпочитаем показывать пробел, а не вымышленное число.
Как определяется более дешёвый провайдер?
Для каждой модели GPU, которую предлагают оба провайдера, мы сравниваем нормализованную часовую цену за один GPU. Модели, доступные только у одного провайдера, исключаются, так как это не является корректным сравнением «яблок с яблоками».
Всегда ли имеет смысл выбирать более дешёвый вариант?
Не всегда. Продуктовые мощности могут быть отозваны в кратчайшие сроки, а хосты различаются по сетевой и дисковой производительности, в то время как выделенное облако обеспечивает более предсказуемую пропускную способность. Для обучения на нескольких узлах поддержка NVLink часто важнее, чем несколько центов в час.
Можно ли напрямую сравнивать спотовые цены между провайдерами?
Только приблизительно. Каждая платформа по-разному определяет правила прерывания, периоды уведомления и поведение при отзыве ресурсов. Спотивые цены стоит рассматривать как индикатор минимально достижимой ставки, а не как гарантированную цену.
Почему показываются цены за час, а не за месяц?
Большинство провайдеров выставляют счета по секундам или часам. Используйте калькулятор стоимости GPU, чтобы перевести часовую ставку в месячный бюджет.
Какие GPU лучше всего подходят для инференса LLM?
Для моделей, помещающихся в память, пропускная способность памяти важнее, чем сырые FLOPS, поэтому карты вроде L40S, RTX 4090 или A100 часто дают больше токенов за доллар, чем H100. Когда модели требуется тензорный параллелизм на нескольких GPU, инстансы H100 или H200 с NVLink обычно выигрывают.
Сколько VRAM нужно для дообучения модели?
Полное дообучение требует примерно количество параметров, умноженное на байты на параметр для весов, плюс состояние оптимизатора, которое может быть в несколько раз больше. LoRA и QLoRA резко уменьшают потребность в памяти оптимизатора. Используйте калькулятор VRAM для LLM, чтобы подобрать конфигурацию.
Что дешевле: арендовать или купить GPU?
Аренда обычно выгоднее, если только вы не можете держать устройство загруженным большую часть года. Облачная аренда также перекладывает затраты на обновление оборудования на провайдера.
Почему у одних и тех же моделей GPU разные цены?
Конфигурации различаются: количество GPU на инстанс, системная RAM и vCPU, локальный диск, регион и возможность прерывания емкости. Мы нормализуем к одному GPU, чтобы вы могли увидеть сквозь эти различия.
Насколько точен калькулятор стоимости GPU?
Он умножает собранную почасовую цену на запланированные часы и добавляет стоимость хранения и исходящего трафика, используя указанные допущения. Это инструмент для планирования бюджета, а не коммерческое предложение: в счетах учитываются налоги, время простоя и минимальные интервалы выставления счетов.
Как работает калькулятор VRAM для LLM?
Он вычисляет память для весов на основе количества параметров и точности, KV-кэш — из геометрии внимания, и добавляет около 15% от весов на активации и накладные расходы фреймворка.