14 октября 2026 г. · Анатолий Крылов, редактор Тераферма
Serverless GPU или аренда сервера: когда выгоднее платить за запрос
Serverless GPU выгоднее аренды, пока видеокарта занята меньше нескольких часов в сутки. По ценам на 14.10.2026 serverless RTX 4090 на RunPod стоит $1,10 за час фактической работы, а обычный под с той же картой обходится в $0,89 за то же время. Значит, если карта нужна больше 80% времени, serverless переплачивает, а с учётом холодных стартов порог наступает ещё раньше. Ниже разбираем, как считать точку безубыточности для своей задачи и когда сервер с почасовой оплатой проще и дешевле.
Что такое serverless GPU и чем он отличается от аренды
В аренде вы получаете сервер с видеокартой и платите за всё время, пока он включён, работает модель или ждёт запросов. Запустили, поработали, остановили.
В serverless сервера как такового нет. Вы загружаете Docker-образ с моделью и обработчиком, площадка выдаёт адрес API. Когда приходит запрос, она поднимает контейнер на свободной карте, обрабатывает запрос и через несколько секунд простоя гасит его. Платите вы только за секунды, пока контейнер жив.
| Параметр | Serverless GPU | Аренда сервера с GPU |
|---|---|---|
| Оплата | посекундно, за время жизни контейнера | поминутно или почасово, за всё время работы сервера |
| Простой | бесплатно, контейнер выключен | оплачивается |
| Холодный старт | есть: загрузка контейнера и модели | нет, модель уже в памяти |
| Цена часа работы | выше | ниже |
| Доступ к машине | только через API и логи | SSH, Jupyter, любые процессы |
| Масштабирование | автоматическое, по числу запросов | вручную: добавить ещё сервер |
| Подходит для | редких и пиковых запросов | постоянной нагрузки, обучения, экспериментов |
Главный компромисс простой: serverless берёт больше за час работы, но не берёт за простой. Аренда наоборот.
Сколько стоит serverless GPU: цены RunPod и Modal
Цены по данным на 14.10.2026 с официальных страниц тарифов, за час работы одной карты. У Modal тариф посекундный, здесь он пересчитан в почасовой.
| Карта | RunPod serverless (flex) | RunPod pod, обычный сервер | Modal |
|---|---|---|---|
| RTX 4090, 24 ГБ | $1,10 | $0,89 | — |
| L4, 24 ГБ | $0,69 | — | $0,80 |
| L40S, 48 ГБ | $1,75 | — | $1,95 |
| A100, 80 ГБ | $2,72 | — | $2,50 |
| RTX PRO 6000, 96 ГБ | $3,49 | $2,49 | $3,03 |
| H100, 80 ГБ | $4,79 | $2,89 (PCIe) | $3,95 (SXM) |
У RunPod в одной группе serverless-цен объединены несколько карт с 24 ГБ (RTX A5000, L4, RTX 3090), поэтому строка L4 показывает цену группы. Кроме flex-воркеров, которые гасятся в простое, у RunPod есть active-воркеры, работающие 24/7 со скидкой по запросу. По сути это та же аренда, только оформленная как serverless. На тарифе Starter у Modal есть $30 бесплатных кредитов в месяц.
Обратите внимание на разницу между serverless и обычным подом у RunPod: на RTX PRO 6000 serverless дороже на 40%, на H100 — в 1,7 раза. Это плата за то, что площадка держит для вас резерв карт и сама гасит простой.
Для сравнения, цены за час в Тераферме: RTX 4090 — 48 ₽, A100 — 97 ₽, RTX PRO 6000 — 185 ₽, H100 — 339–417 ₽. Оплата поминутная, в рублях. Подробнее о том, как площадки устроены и чем маркетплейс отличается от облака, рассказано в статье GPU-маркетплейс или облако.
Точка безубыточности: формула
Чтобы понять, что дешевле, сравните стоимость суток в двух моделях.
Serverless за сутки = цена часа serverless × часы реальной работы × (1 + доля холодных стартов)
Аренда за сутки = цена часа аренды × часы, пока сервер включён
Отсюда порог загрузки, выше которого аренда выгоднее:
Порог = цена часа аренды ÷ цена часа serverless
Пример на ценах RunPod для RTX 4090: $0,89 ÷ $1,10 ≈ 0,81. Если карта работает больше 81% суток, около 19,5 часов, круглосуточный под дешевле. Но это без холодных стартов. Если каждый пятый запрос попадает на остывший контейнер и ждёт загрузки модели, оплаченное время растёт, и порог опускается.
Для RTX PRO 6000 у RunPod порог ниже: $2,49 ÷ $3,49 ≈ 0,71, около 17 часов в сутки. Для H100: $2,89 ÷ $4,79 ≈ 0,60, около 14,5 часов.
Есть и второй вариант аренды, который часто упускают: сервер можно включать только на рабочие часы. Тогда сравнивать надо не с 24 часами, а с 8–12.
Расчёт на сутки для карты с 24 ГБ
Возьмём бота на модели 8B, которому хватает 24 ГБ. Сравним serverless RTX 4090 на RunPod по $1,10/час (при курсе около 83,5 ₽ за доллар это около 92 ₽ за час работы) с арендой RTX 4090 в Тераферме.
| Реальная работа карты в сутки | RunPod serverless, без холодных стартов | Тераферма, сервер 10 часов в день | Тераферма, сервер 24/7 |
|---|---|---|---|
| 30 минут | ≈ 46 ₽ | 480 ₽ | 1 152 ₽ |
| 2 часа | ≈ 184 ₽ | 480 ₽ | 1 152 ₽ |
| 6 часов | ≈ 551 ₽ | 480 ₽ | 1 152 ₽ |
| 12 часов | ≈ 1 102 ₽ | не помещается | 1 152 ₽ |
| 24 часа | ≈ 2 204 ₽ | не помещается | 1 152 ₽ |
Что видно из таблицы:
- Полчаса работы в сутки. Serverless почти всегда выигрывает: платите за 30 минут, а не за 10 или 24 часа.
- Несколько часов работы, запросы только днём. Сервер на рабочее время обычно дешевле и не имеет холодных стартов.
- Нагрузка весь день. Сервер 24/7 дешевле serverless в разы.
Сравнение по рублям приблизительное: курс доллара меняется, а оплатить RunPod российской картой нельзя. При оплате через посредника добавьте его комиссию.
Холодный старт: скрытая часть счёта
Serverless хорош на бумаге, пока не появляется холодный старт. Когда запрос приходит на выключенный воркер, площадка должна:
- найти свободную карту;
- скачать или достать из кеша Docker-образ;
- загрузить веса модели в видеопамять;
- только потом обработать запрос.
Для небольшой модели это несколько секунд. Для LLM на 15–40 ГБ это от десятков секунд до нескольких минут, в зависимости от того, кешированы ли веса на узле. RunPod прямо пишет в документации, что в счёт входят время старта, время выполнения и время ожидания перед выключением (по умолчанию 5 секунд).
Отсюда две проблемы:
- Деньги. Если запросы редкие, но каждый вызывает холодный старт, вы платите за загрузку модели чаще, чем за саму работу.
- Задержка. Пользователь чат-бота ждёт первую букву ответа полминуты. Для внутреннего инструмента это терпимо, для публичного продукта — нет.
Лечится это постоянно включённым воркером. Но постоянно включённый воркер — это уже аренда, только дороже.
Когда выбирать serverless
- Редкие запросы. Внутренний инструмент, который вызывают 20–50 раз в день, или демо для инвесторов.
- Резкие пики. Сервис, где нагрузка взлетает в 10 раз на час-два, а остальное время почти нулевая. Serverless сам добавит карты на пик.
- Короткие задачи без состояния. Генерация одной картинки, расшифровка короткого аудио, эмбеддинги для пачки текстов.
- Нет человека, который будет включать и выключать сервер. Автомасштабирование и есть главная ценность serverless.
Когда выбирать аренду сервера
- Постоянная нагрузка. Бот или API, к которому обращаются весь рабочий день, дешевле держать на сервере.
- Обучение и дообучение. Задачи на часы и сутки, где нужен SSH, чекпоинты и контроль процесса. Serverless для этого неудобен: у воркеров есть таймауты выполнения, а доступа к машине нет.
- Эксперименты. Jupyter, отладка, перебор моделей. В serverless каждый цикл «поменял код — пересобрал образ — задеплоил» занимает минуты.
- Большие модели. Чем тяжелее веса, тем дороже холодный старт. Модель 70B, которая грузится несколько минут, в serverless почти всегда работает с постоянным воркером.
- Предсказуемый счёт. Сервер на 10 часов в день стоит одинаково каждый день. Счёт serverless зависит от трафика, и всплеск запросов превращается во всплеск расходов.
Если нагрузка ровная в рабочее время, посмотрите почасовую аренду GPU: сервер запускается за пару минут, оплата поминутная, минимум 15 минут за запуск.
Гибридная схема
Многие команды приходят к комбинации:
- базовую нагрузку держит арендованный сервер, включённый в рабочие часы или круглосуточно;
- пики и редкие тяжёлые задачи уходят на serverless;
- обучение и эксперименты идут на отдельных арендованных картах, которые выключают после работы.
Так вы не платите за простой базового сервера ночью и не держите резерв под пики. Но схема требует двух сборок окружения и мониторинга двух площадок, поэтому для маленькой команды обычно проще начать с одного сервера и выключать его по расписанию.
Как оценить свою нагрузку за 15 минут
- Посчитайте запросы в день и среднее время обработки одного запроса на GPU. Например, 2 000 запросов по 3 секунды дают 100 минут работы карты.
- Посмотрите, как запросы распределены по часам. Если 90% приходит с 9 до 19, это кандидат на сервер в рабочее время.
- Оцените холодный старт: сколько весит модель и за сколько она грузится в память. Если больше 30 секунд, serverless без постоянного воркера будет раздражать пользователей.
- Подставьте цифры в формулы выше.
Если реальная работа меньше 1–2 часов в сутки и запросы разбросаны, берите serverless. Если больше 4–6 часов или запросы сосредоточены в рабочем дне, сервер дешевле.
Serverless GPU работает как такси: дорого за километр, но бесплатно, пока стоит. Аренда сервера похожа на машину напрокат: дешевле за час, но счётчик крутится всегда, пока вы её не вернёте. Для редких запросов выигрывает первое, для постоянной работы, обучения и экспериментов — второе.
Тераферма работает по второй модели: GPU облако с поминутной оплатой в рублях. Если вы сейчас на RunPod и думаете о переезде, сравнение площадок есть на странице альтернатива RunPod. Запустите сервер на рабочие часы и сравните счёт с тем, что платите за serverless.