Перейти к содержанию
Публикация AiManual

Как сравнить GPU-провайдеров: Hyperstack, Runpod и облачные хранилища

Как сравнить стоимость GPU-инференса в Hyperstack и Runpod: диски, объектное хранение, проверка кэша модели, прерываемые ресурсы и полный месячный счёт.

Коротко

Что будет в материале

  1. 01

    Когда стоимость инференса становится отдельной задачей

  2. 02

    Hyperstack vs Runpod: сравниваем полный счёт

  3. 03

    Отделяем хранение от вычислений

  4. 04

    Математика: считаем стоимость по своему режиму

Когда стоимость инференса становится отдельной задачей

Готовая модель ещё не означает готовый сервис. Помимо аренды GPU, в счёт входят хранение весов и результатов, сеть, резервные копии и время запуска. Поэтому сравнивать провайдеров только по цене видеокарты за час недостаточно.

Ниже разберём Hyperstack и Runpod, выбор объектного хранилища, проверяемый кэш модели и работу с прерываемыми ресурсами. Числовые примеры явно обозначены как учебные: это не тарифные предложения и не результаты нагрузочного теста.

Сначала проверьте, что конфигурация вмещает выбранную модель вместе с KV-кэшем и служебной памятью и выдерживает вашу нагрузку. Дешёвый час не помогает, если запросы не укладываются в нужную задержку.

Hyperstack vs Runpod: сравниваем полный счёт

Для каждого предложения запишите модель и число GPU, регион, состав CPU/RAM/дисков, условия остановки и режим оплаты. Ставки берите из панели выбранной конфигурации в день расчёта.

ПараметрHyperstackRunpodЧто проверить
ВычисленияЦена зависит от GPU и числа устройств; ставка аккаунта может отличаться от публичнойТекущая цена GPU показана при создании PodСравнивайте одинаковую нагрузку и доступную конфигурацию
ХранениеЛокальные диски включены в GPU flavor; Shared Storage Volumes оплачиваются отдельноContainer disk, volume disk и network volume имеют отдельные условия оплатыУчитывайте объём и время хранения, включая простой
ОстановкаSHUTOFF продолжает резервировать и тарифицировать ресурсы; HIBERNATED имеет другие правилаНа остановленном Pod может продолжаться оплата сохранённого volume disk; network volume существует отдельноОстановка процесса, остановка машины и освобождение GPU не равнозначны
Сеть и дополнительные ресурсыПроверьте отдельную оплату публичного IP и подключённых томовДокументация Pods указывает отсутствие платы за входящий и исходящий трафикДругая сторона передачи данных и дополнительные сервисы могут выставлять свой счёт

Основания для таблицы: правила расчёта Hyperstack, состояния VM и биллинг, тарификация Runpod Pods. Здесь нет универсальной цены «RTX 4090»: доступность конкретной карты и условия предложения нужно проверить перед запуском.

Хранение в Runpod не бесплатно. Отдельно проверьте переносимость выбранного типа тома между дата-центрами и доступность GPU рядом с ним. Время холодного старта измеряйте на своём файле: объём, сеть и запись на диск важнее обещания загрузить любую модель за фиксированное число минут.

Отделяем хранение от вычислений

Постоянная копия весов вне жизненного цикла GPU помогает пересоздавать вычислительный узел. Но объектное хранилище не заменяет рабочий диск: для старта часто нужны скачивание, локальный кэш и свободное место под временный файл.

1. Выбираем объектное хранилище: Cloudflare R2, Wasabi или AWS S3

  • Cloudflare R2 Standard. В официальном прайсе отдельно учитываются хранение и операции. Прямая выдача из R2 не облагается платой за исходящий трафик; это не делает бесплатными операции, подключённые сервисы или весь облачный контур. У бесплатной квоты операций месячный расчёт.
  • Wasabi Pay as You Go. Проверьте минимальные условия: счёт как минимум за 1 ТБ и минимальный оплачиваемый срок хранения 90 дней. Удалять объект раньше можно, но оставшийся срок оплачивается; бесплатный egress подчиняется политике использования.
  • AWS S3 Glacier Deep Archive. Подходит для архива, а не для источника весов при каждом старте. Восстановление в режиме Standard обычно занимает до 12 часов, в Bulk до 48 часов. В смете отдельно учитываются восстановление, временная восстановленная копия и применимые сетевые платежи.

Выбирайте по частоте запусков и доступности данных, а не по минимальной цене гигабайта. Если нужен ещё один вариант для сравнения, у Timeweb Cloud (партнёрская ссылка) есть S3-хранилище и серверы с GPU. Проверьте подходящую конфигурацию, регион и стоимость полной схемы; сопоставимых замеров производительности этих провайдеров в статье нет.

2. Настраиваем проверяемый кэш модели при запуске

Следующий пример только скачивает один файл модели, например GGUF. Он не запускает vLLM и не гарантирует совместимость формата с любым движком. Для модели из нескольких файлов нужна проверка полного манифеста весов, конфигурации и токенизатора.

На Linux понадобятся Bash, curl, sha256sum, mktemp и flock. Задайте MODEL_PATH в приватном локальном каталоге и MODEL_SHA256 из доверенного манифеста конкретной версии. Для промаха кэша передайте MODEL_URL: реальный presigned GET URL на нужный объект, созданный через S3-совместимый клиент. У R2 используется адрес аккаунта в домене r2.cloudflarestorage.com, а не выдуманный общий URL. Ссылка даёт временный доступ: не публикуйте её, не включайте shell tracing и выбирайте срок действия, достаточный для загрузки и повторов. Пример рассчитан на выделенный доверенный узел: URL попадает в окружение и аргументы curl, которые доступны владельцу процесса и root, а при некоторых настройках — и другим локальным пользователям. Отсутствие shell tracing само по себе не скрывает эти данные; для общей среды нужен другой способ передачи краткоживущего доступа.

#!/usr/bin/env bash
set -euo pipefail
umask 077

# Передайте настройки через окружение, не храните URL в репозитории.
: "${MODEL_PATH:?Укажите абсолютный путь к файлу модели}"
: "${MODEL_SHA256:?Укажите SHA-256 из доверенного манифеста}"
[[ "$MODEL_PATH" == /* ]] || { echo "Нужен абсолютный путь" >&2; exit 1; }
[[ "$MODEL_SHA256" =~ ^[0-9a-fA-F]{64}$ ]] || { echo "Неверный SHA-256" >&2; exit 1; }
MODEL_SHA256="${MODEL_SHA256,,}"

# Используйте приватный каталог на локальной файловой системе Linux.
mkdir -p -- "$(dirname -- "$MODEL_PATH")"
exec 9>"${MODEL_PATH}.lock"
flock -x 9
valid() {
    [[ -f "$1" ]] && [[ "$(sha256sum < "$1" | cut -d ' ' -f 1)" == "$MODEL_SHA256" ]]
}
if valid "$MODEL_PATH"; then
    echo "Проверенный файл уже в кэше"
    exit 0
fi

: "${MODEL_URL:?Передайте действующий presigned GET URL}"
[[ "$MODEL_URL" == https://* ]] || { echo "Разрешён только HTTPS" >&2; exit 1; }
tmp=$(mktemp "${MODEL_PATH}.part.XXXXXX")
trap 'rm -f -- "$tmp"' EXIT
curl -q --globoff --fail --silent --show-error \
    --proto '=https' --retry 3 --connect-timeout 10 --max-time 1800 \
    --output "$tmp" --url "$MODEL_URL"
valid "$tmp" || { echo "Контрольная сумма не совпала" >&2; exit 1; }
# Временный файл находится в том же каталоге: замена атомарна.
mv -f -- "$tmp" "$MODEL_PATH"
trap - EXIT
echo "Файл проверен и готов к загрузке в совместимый движок"

Блокировка исключает одновременную запись этим скриптом в один путь. При ошибке HTTP, сети или SHA-256 процесс завершается до замены основного файла; незавершённый файл не считается кэшем. Предусмотрите место одновременно под старый и новый файл. Это проверка целостности, а не доказательство безопасности модели: доверие к источнику весов и манифеста нужно установить отдельно. После успеха запускайте совместимый движок с проверенными ограничениями памяти и закрытым от посторонних API.

Не все диски исчезают при обычной остановке. В Runpod container disk очищается при остановке, volume disk сохраняется до удаления Pod, network volume живёт независимо. В Hyperstack hibernation сохраняет root disk, но не ephemeral disk. Проверьте тип хранилища и переход состояния VM заранее; рабочий кэш не должен быть единственной копией важных данных.

Математика: считаем стоимость по своему режиму

Для 12 часов полезной работы в день за 30 дней получится 360 часов. Добавьте оплачиваемое время запуска, загрузки и повторов. Если ресурс остаётся зарезервированным и тарифицируется вне рабочих часов, в формуле нужны все оплачиваемые часы, а не только полезные.

Месячная стоимость = ставка всей вычислительной конфигурации × оплачиваемые часы + рабочие диски + постоянное хранилище + операции и сеть + IP/резервирование/другие платные компоненты. Налоги и валюту учитывайте по условиям счёта.

Учебный сценарий, не тариф провайдераРасчётЧто означает
Одна и та же подходящая конфигурация по условной ставке $1/час, 720 оплачиваемых часов$720 + SS обозначает все остальные расходы
Та же конфигурация, GPU действительно освобождается вне 360 рабочих часов$360 + B + S₂B: оплачиваемые загрузки и повторы; S₂ может отличаться
Внешнее объектное хранилище и кэшРасходы второго сценария + объекты/операции/передачи − исключённые расходы прежней схемыВнешнее хранение само по себе не доказывает экономию

Не подменяйте размер файла требованием к VRAM. Для условных 70 млрд параметров арифметика 70 млрд × 4 бита даёт 35 млрд байт только сырых весов, а 16 бит — 140 млрд байт. Формат квантования, метаданные, буферы и KV-кэш увеличивают реальный бюджет. Это не обещание запустить Llama 70B на карте с 35 ГБ памяти.

Spot-инстансы: экономия ценой прерываемости

Прерываемые ресурсы разумно рассматривать для повторяемых фоновых задач и экспериментов. В Hyperstack spot VM могут удалить без предупреждения; скидку и доступный flavor проверяйте в момент выбора. Наличие аналогичного режима у другого провайдера нельзя предполагать по названию сервиса или старому примеру SDK.

Надёжная схема восстановления выглядит так:

  1. Держите исходные веса и конфигурацию вне spot VM. Сохраняйте очередь заданий в постоянном сервисе.
  2. Во время работы периодически записывайте завершённые checkpoints или результаты в постоянное хранилище. Публикуйте новую версию манифеста только после успешной загрузки всех её файлов.
  3. Подтверждайте задание в очереди после сохранения результата. Повторный запуск должен обнаруживать уже завершённую работу и не создавать дубликаты.
  4. После потери узла создайте замену и загрузите последний подтверждённый checkpoint. Не пытайтесь копировать данные с уже удалённой VM.
  5. Проверьте восстановление на тестовой задаче. В бюджет включите потерянную работу с момента последнего checkpoint, повторную загрузку и резервную доступную мощность.

У инференса готовой модели обычно нет обучающего checkpoint: сохраняют входную очередь и результаты, а прерванный запрос повторяют согласно правилам приложения. Поток ответа пользователя может оборваться. Процент экономии зависит от числа прерываний и цены замещающей мощности.

Не обещайте восстановление за 15 минут или гарантированную доступность одним запасным сервером. Для пользовательского API нужны проверенные переключение, лимиты очереди и резерв, способный принять нагрузку. Без этого spot лучше оставить фоновым задачам.

5 ошибок, которые съедят вашу экономию

  1. Не учитывать холодный старт. Большой образ с весами может быть удобен, но его доставка зависит от кэша образов и сети. Сравните её с отдельным кэшем модели на реальном запуске.
  2. Считать квантование бесплатным ускорением. Оно меняет память, совместимость и иногда качество. Сравните ответы на своих задачах; подробнее — о квантовании и стоимости инференса.
  3. Смотреть только на загрузку GPU. Сопоставляйте её с очередью, задержкой и выполненными запросами. Автомасштабирование полезно лишь с учётом времени запуска и минимального резерва.
  4. Выбирать регион только по цене. Измерьте задержку до пользователей и до хранилища. География не задаёт универсальные 80 или 300 мс.
  5. Складывать VRAM как обычную RAM. Для кластера из нескольких GPU проверьте поддержку распределения модели, межсоединение и накладные расходы синхронизации.

Чеклист выбора провайдера

  • Зафиксировать модель, версию движка, квантование, длины запросов и целевую задержку.
  • Получить цену всей доступной конфигурации, единицы тарификации и условия оплаты в простое.
  • Проверить жизненный цикл каждого диска, резервные копии и пробное восстановление.
  • Измерить холодный старт и нагрузку в часы пиков именно вашего приложения.
  • Настроить бюджетные уведомления и освобождение ресурсов по поддерживаемому сценарию провайдера.
  • Пересчитать полную стоимость перед длительным обязательством или переносом данных.

Когда сравнивать облако с покупкой своего сервера

Универсальной границы в $1000 в месяц нет. При стабильной загрузке можно сравнить облачный счёт с покупкой своего железа, но в локальный вариант включают не только видеокарты: нужны сервер, электроэнергия, охлаждение, сеть, обслуживание, резервирование и замена оборудования.

Для предварительной оценки разделите капитальные затраты на положительную разницу между сопоставимым месячным облачным счётом и месячными расходами своего сервера. Это упрощённый срок окупаемости, без стоимости капитала и остаточной стоимости техники. Если разница неположительна, такая формула окупаемости не даёт.

Гибридный вариант тоже требует расчёта: локальная базовая нагрузка, облако на пики, единый доступ к данным и понятный план отказа. Он может быть полезен, но не гарантирует меньший счёт или доступность без испытаний.

Частые вопросы

Почему не включены Lambda, Vast.ai и Paperspace?

Здесь разобрана методика на двух сервисах, а не полный рейтинг рынка. Другие площадки можно добавить в ту же таблицу: доступный GPU, полная ставка, хранение, сеть, прерываемость и результат своего теста. Без сопоставимого предложения нельзя утверждать, что одна из них дороже на фиксированный процент или всегда требует контракт.

Что меняется, если нужна A100 или H100?

Проверьте, почему они нужны: объём памяти, формат вычислений, межсоединение или требуемая скорость. Сравнивайте стоимость успешной задачи при одинаковых ограничениях задержки. Материал о производительности моделей и форматах может дать контекст, но не заменяет тест вашей нагрузки на выбранных GPU.

Почему счёт вырос после остановки сервиса?

Проверьте состояние ресурса в панели и детализацию расходов: процесс мог остановиться, а VM продолжить резервировать GPU; диски, IP и копии могут оплачиваться отдельно. Отслеживайте бюджет и очищайте только те ресурсы, данные с которых сохранены и проверены.

Практический итог: выбирайте конфигурацию по измеренной работе и полному счёту. Когда GPU не нужен, используйте именно тот переход состояния, который прекращает его тарификацию, заранее сохранив данные.