3 октября 2026 г. · Анатолий Крылов, редактор Терафермы
Сколько стоит обучить нейросеть: считаем GPU-часы и цену в рублях
Сколько стоит обучить нейросеть, считается по одной формуле: GPU-часы × цена часа. На практике это от 17 ₽ за дообучение небольшого классификатора текстов на RTX 3090 и около 216 ₽ за QLoRA модели 8B на RTX 4090 до 23 268–27 636 ₽ за обучение языковой модели на 1 млрд параметров с нуля на H100.
Какую видеокарту для обучения нейросети взять под вашу модель, подскажет страница аренда GPU для обучения.
Формула: GPU-часы × цена часа
Всё, что влияет на стоимость обучения, сводится к двум числам.
Цена часа означает тариф на выбранную видеокарту. В Тераферме, например: RTX 3090 — 34 ₽, RTX 4090 — 54 ₽, RTX A6000 — 69 ₽, A100 80GB — 154 ₽, H100 — 277–329 ₽, H200 — 464 ₽, B200 — 1543 ₽ за час. Полный список есть на странице цен.
GPU-часы показывают, сколько часов работы видеокарты нужно для задачи. Если обучение идёт на 4 картах 10 часов, это 40 GPU-часов.
Цена часа известна заранее. Сложнее всего оценить GPU-часы. Для этого есть два способа: теоретический расчёт и пробный запуск.
Как оценить GPU-часы теоретически
Для трансформеров, включая языковые модели, есть известная оценка вычислительных затрат на обучение:
Вычисления (FLOP) ≈ 6 × N × D
где N — число параметров модели, D — число токенов в обучающих данных. Множитель 6 учитывает прямой и обратный проход.
Дальше делим вычисления на реальную производительность карты. Реальная равна паспортной, умноженной на MFU (model FLOPs utilization), долю мощности, которую обучение использует на практике. Для хорошо настроенного обучения MFU обычно составляет 30–50%, для небрежно написанного кода может быть 10–20%.
| Карта | Паспортная FP16/BF16, TFLOPS | Реально при MFU 40% | Цена, ₽/час |
|---|---|---|---|
| RTX 4090 | ~165 | ~66 | 54 |
| A100 80GB | ~312 | ~125 | 154 |
| H100 | ~989 | ~395 | 277–329 |
Пример: модель 1B с нуля
Возьмём модель на 1 млрд параметров и 20 млрд токенов данных, то есть примерно 20 токенов на параметр, такое соотношение часто используют как разумный ориентир.
Вычисления: 6 × 10⁹ × 2 × 10¹⁰ = 1,2 × 10²⁰ FLOP.
- H100: 1,2 × 10²⁰ ÷ 3,95 × 10¹⁴ ≈ 304 000 секунд ≈ 84 часа × 277–329 ₽ ≈ 23 268–27 636 ₽
- A100: 1,2 × 10²⁰ ÷ 1,25 × 10¹⁴ ≈ 960 000 секунд ≈ 267 часов × 154 ₽ ≈ 41 118 ₽
- RTX 4090: 1,2 × 10²⁰ ÷ 6,6 × 10¹³ ≈ 1 818 000 секунд ≈ 505 часов × 54 ₽ ≈ 27 270 ₽
Сравнивайте итоговую сумму, а не цену часа: самая дешёвая по часу карта не всегда даёт самый дешёвый результат, а самая быстрая сокращает срок в разы. На одной H100 обучение займёт 3,5 суток, на A100 уйдёт 11 суток, на RTX 4090 — три недели. На 8 картах H100 выйдет меньше 11 часов при той же сумме, что и на одной. Плюс у RTX 4090 всего 24 ГБ, и для моделей крупнее 1B полное обучение на ней уже не поместится. Подробное сравнение карт есть в статье H100 vs A100 vs RTX 4090.
Пример: модель 7B с нуля
7 млрд параметров на 100 млрд токенов: 6 × 7 × 10⁹ × 10¹¹ = 4,2 × 10²¹ FLOP.
На H100 при MFU 40%: около 10,6 млн секунд, то есть примерно 2 950 GPU-часов. Стоимость выходит около 817 150–970 550 ₽. На кластере из 8 H100 это около 15 суток.
Это уже серьёзный проект, и обычно его не делают без веских причин. Для большинства прикладных задач выгоднее взять готовую открытую модель и дообучить её.
Типовые задачи и их стоимость
Обучение с нуля встречается редко. Чаще всего обучают небольшие модели или дообучают готовые. Вот ориентиры по тарифам Тераферма. Время указано оценочно, для типичных объёмов данных.
| Задача | Карта | GPU-часы | Стоимость |
|---|---|---|---|
| Дообучение BERT-классификатора, 50 тыс. текстов | RTX 3090 | ~0,5 | ~17 ₽ |
| Дообучение YOLO на своём датасете, 5 тыс. картинок | RTX 4090 | 2–4 | 108–216 ₽ |
| LoRA для SDXL, 30 картинок | RTX 4090 | 0,5–1 | 27–54 ₽ |
| QLoRA модели 8B, 10 тыс. примеров | RTX 4090 | 3–5 | 162–270 ₽ |
| QLoRA модели 70B, 5 тыс. примеров | A100 80GB | 12–20 | 1 848–3 080 ₽ |
| Полное дообучение 8B, 50 млн токенов × 3 эпохи | 4 × H100 | ~8 | ≈ 2 216–2 632 ₽ |
| Модель 1B с нуля, 20 млрд токенов | H100 | ~90 | ≈ 24 930–29 610 ₽ |
Видно, что для большинства бизнес-задач (классификация, распознавание объектов, дообучение LLM на своих данных) стоимость обучения измеряется сотнями рублей, а не сотнями тысяч. Как именно запускать дообучение LLM, мы описали в статье дообучение LoRA и QLoRA на арендованной GPU.
Пробный запуск: самый точный способ
Теоретическая оценка хороша для планирования, но реальное время зависит от множества деталей: длины последовательностей, загрузки данных, оптимизаций, версии библиотек. Надёжнее всего сделать короткий пробный запуск.
- Подготовьте данные и скрипт обучения заранее, без видеокарты.
- Запустите сервер с нужной картой и прогоните 50–100 шагов.
- Посмотрите в логах скорость: секунд на шаг или токенов в секунду.
- Посчитайте: (всего шагов × секунд на шаг) ÷ 3 600 = часы обучения.
- Умножьте на цену часа и добавьте запас 10–20% на валидацию и сохранение чекпоинтов.
Пример. Вы дообучаете модель 8B через QLoRA на RTX 4090. Датасет из 12 000 примеров, батч с учётом накопления градиентов равен 16, три эпохи. Получается 12 000 ÷ 16 × 3 = 2 250 шагов. Пробный запуск показал 6 секунд на шаг. Итого 2 250 × 6 = 13 500 секунд, то есть 3,75 часа. С запасом 20% выходит 4,5 часа × 54 ₽ = 243 ₽. Если тот же пробный запуск на RTX 3090 показал 10 секунд на шаг, обучение займёт 6,25 часа, а с запасом — 7,5 часа × 34 ₽ = 255 ₽. Дешевле, но результат будет готов на три часа позже.
Пробный запуск занимает 10–15 минут. При поминутной оплате это около 8,5 ₽ на RTX 3090, 14 ₽ на RTX 4090 и 69–82 ₽ на H100. Зато вы точно знаете, сколько стоит вся задача, и можете сравнить несколько карт. Подробнее об оплате написано на странице почасовой аренды GPU.
Что ещё входит в бюджет, кроме самого обучения
Расчёт по формуле даёт стоимость одного успешного прогона. В реальном проекте прогонов почти всегда больше, и это стоит заложить в бюджет заранее.
Эксперименты. Редко получается подобрать гиперпараметры с первого раза. Скорость обучения, размер батча, ранг LoRA, длина контекста: обычно приходится сделать 3–10 коротких прогонов, прежде чем запускать основной. Хорошее правило: закладывать на эксперименты ещё 50–100% от стоимости финального обучения.
Оценка качества. После обучения модель нужно прогнать на тестовой выборке, а для LLM ещё и сгенерировать ответы на контрольные вопросы. Это тоже GPU-время, хоть и небольшое.
Неудачные запуски. Ошибка в данных, обнаруженная на середине обучения, означает, что половина GPU-часов ушла впустую. Проверяйте данные и скрипт на маленьком подмножестве до большого запуска.
Хранение и передача данных. Датасеты и чекпоинты больших моделей занимают сотни гигабайт. Скачивание и загрузка идут, пока сервер включён, и это тоже оплачиваемые минуты.
Инференс после обучения. Обучить модель лишь полдела, её ещё нужно где-то запускать. Если модель будет работать постоянно, посчитайте и эту часть бюджета: сравнение почасовой аренды и постоянного сервера разобрано в статье почасовая аренда GPU или выделенный сервер.
На практике итоговый бюджет проекта обычно в 1,5–3 раза больше стоимости одного финального прогона. Вот как это выглядит для QLoRA модели 8B на RTX 4090:
| Статья бюджета | Часы | Стоимость |
|---|---|---|
| Отладка скрипта на 200 примерах | 0,5 | 27 ₽ |
| 5 коротких прогонов для подбора скорости обучения и ранга LoRA | 4 | 216 ₽ |
| Финальное обучение, 3 эпохи | 4,5 | 243 ₽ |
| Оценка на контрольных вопросах | 1 | 54 ₽ |
| Итого проект | 10 | 540 ₽ |
Финальный прогон здесь составляет меньше половины счёта. Если планировать бюджет только по нему, деньги закончатся на середине экспериментов. Для дообучения 8B итог всё равно измеряется сотнями рублей, а не десятками тысяч.
Как снизить стоимость обучения
Смешанная точность. Обучение в BF16 вместо FP32 ускоряет работу в несколько раз на тензорных ядрах и почти не влияет на качество. На H100 и картах Ada и Blackwell можно идти дальше, в FP8.
Высокий MFU. Проверьте загрузку видеокарты через nvidia-smi. Если она ниже 80–90%, узкое место не в GPU: ускорьте загрузку данных, увеличьте число воркеров DataLoader, держите данные на быстром SSD.
Правильный метод. LoRA и QLoRA обучают доли процента параметров и сокращают память и время в разы. Полное дообучение имеет смысл только тогда, когда LoRA не даёт нужного качества.
Подходящая карта. Не берите H100 для задачи, которая помещается в RTX 4090 и не ограничена сроками. И наоборот: не мучайте 24 ГБ моделью, которой нужно 80: время на обходные пути стоит дороже.
Чекпоинты. Сохраняйте промежуточные результаты каждые 30–60 минут. Сбой без чекпоинтов означает, что все потраченные GPU-часы придётся оплатить заново.
Отлаживайте на маленьком. Ошибки в скрипте ловите на крошечной модели и сотне примеров на дешёвой карте, а дорогую карту запускайте, когда всё работает.
Сколько стоит обучить нейросеть, решает простая арифметика: GPU-часы × цена часа. GPU-часы можно оценить по формуле 6 × N × D с поправкой на реальную производительность или, точнее, пробным запуском на 50–100 шагов. Большинство прикладных задач обходится в десятки и сотни рублей, дообучение крупных моделей обходится в тысячи, и только обучение LLM с нуля требует серьёзного бюджета. Не забывайте закладывать запас на эксперименты и неудачные прогоны: в реальном проекте их почти всегда больше одного, и честный бюджет учитывает это с самого начала.
В Тераферме доступны карты от RTX 3060 за 13 ₽/час до B200 за 1543 ₽/час, с поминутной оплатой в рублях. Посчитайте свою задачу, сделайте пробный запуск и платите только за реальные минуты обучения. Каталог карт смотрите в разделе аренды GPU для ИИ.