Аренда GPU для обучения нейросетей
Для обучения моделей на Тераферме есть видеокарты от 26 ₽ в час. RTX 3090 и 4090 на 24 ГБ подходят для LoRA и QLoRA моделей до 14B, YOLO и LoRA для Stable Diffusion. RTX A6000 и L40S на 48 ГБ тянут QLoRA до 70B, а A100 и H100 нужны для полного обучения, в том числе на нескольких картах. Оплата поминутная, баланс в рублях.
Что можно обучить на одной карте
| Видеокарта | Память | QLoRA, до | LoRA bf16, до | Полное обучение, до | От, ₽/час |
|---|---|---|---|---|---|
| RTX 3090 | 24 ГБ | 14B | 8B | 1B | 26 |
| RTX 4090 | 24 ГБ | 14B | 8B | 1B | 48 |
| RTX 5090 | 32 ГБ | 32B | 8B | 1,5B | 83 |
| RTX A6000 | 48 ГБ | 70B впритык | 14B | 2B | 66 |
| L40S | 48 ГБ | 70B впритык | 14B | 2B | 97 |
| A100 | 80 ГБ | 70B | 32B | 3B | 97 |
| H100 | 80 ГБ | 70B | 32B | 3B | 417 |
| H200 | 141 ГБ | 70B | 32B | 7B | 453 |
Размер языковой модели в миллиардах параметров, batch 1–4, с gradient checkpointing. Полное обучение с AdamW занимает около 16 байт на параметр: модели крупнее делят между несколькими картами через FSDP или DeepSpeed.
Сколько стоят типовые задачи
| Задача | Карта | Время | Стоимость, ₽ |
|---|---|---|---|
| LoRA для SDXL, 30 картинок | RTX 4090 | 0,5–1 ч | 24–48 |
| YOLO на своём датасете, 5 тыс. картинок | RTX 4090 | 2–4 ч | 96–192 |
| QLoRA модели 8B, 10 тыс. примеров | RTX 4090 | 3–5 ч | 144–240 |
| LoRA для Flux, 2 000 шагов | RTX 5090 | 0,7–1 ч | 58–83 |
| QLoRA модели 32B, 10 тыс. примеров | A100 | 8–12 ч | 776–1 164 |
| QLoRA модели 70B, 5 тыс. примеров | A100 | 12–20 ч | 1 164–1 940 |
Ориентиры по нашим расчётам для типовых настроек. Реальное время зависит от длины примеров, разрешения картинок, числа эпох и batch. Перед долгим запуском прогоните 50–100 шагов и умножьте время шага на их общее число.
Дообучение LLM
LoRA и QLoRA через Unsloth, Axolotl, PEFT и TRL. Для QLoRA 8B хватает 24 ГБ, для 70B — 48–80 ГБ.
Компьютерное зрение
YOLO, сегментация, классификаторы. Обучение упирается в скорость загрузки данных — берите машину с NVMe и 8+ ядрами CPU.
LoRA для генерации картинок
Kohya, AI Toolkit, SimpleTuner. LoRA для SDXL обучают на 16–24 ГБ, для Flux — на 24–32 ГБ.
Полное обучение
A100, H100 и H200 с BF16 и NVLink. Машины на 2, 4 и 8 карт для DDP, FSDP и DeepSpeed.
Аренда видеокарты для машинного обучения: как не переплатить
Обучение — неравномерная нагрузка: неделю готовите данные, потом карта работает 10 часов без перерыва, а потом снова не нужна. Поэтому аренда видеокарты для машинного обучения обычно дешевле покупки: вы платите за часы обучения, а не за простой.
Чтобы счёт не вырос, держите три правила. Отлаживайте код на дешёвой карте (RTX 3060 или 3090), а на A100 и H100 переходите, когда скрипт уже работает. Сохраняйте чекпоинты каждые 30–60 минут во внешнее хранилище: после остановки сервера диск удаляется. Останавливайте сервер сразу после выгрузки результата — оплата поминутная, минимум 15 минут за запуск. Трафик оплачивается отдельно по факту, поэтому большие датасеты и модели качайте один раз и держите на диске сервера до конца работы.
Карта простаивает, если её не успевают кормить данными. Признак — загрузка GPU ниже 70% в nvidia-smi. Помогают num_workers в DataLoader по числу ядер CPU, данные на локальном диске сервера, а не в сетевой папке, и смешанная точность bf16.
Сервер для обучения нейросети за 2–5 минут
Выберите карту в каталоге и шаблон «PyTorch + CUDA + Jupyter»: в нём PyTorch 2.7 с CUDA 12.8, который работает и на RTX 50, и на старых картах. Объём диска задаётся при запуске — под датасет и чекпоинты берите с запасом. Если окружение у вас уже собрано, укажите свой Docker-образ.
Сервер готов через 2–5 минут (со своим образом — 8–15 минут): в карточке появятся SSH-доступ и Jupyter. Пока сервер не готов, деньги не списываются. Подробный разбор сроков и цен — в статьях сколько стоит обучить нейросеть, дообучение LoRA на арендованной GPU и обучение на нескольких GPU.
Цены на GPU для обучения
| Видеокарта | Тип | Память | FP16, TFLOPS | Цена, ₽/час | ≈ в месяц | |
|---|---|---|---|---|---|---|
| RTX 3090 | игровая | 24 ГБ | ≈71 | 26 | 18 720 ₽ | Арендовать |
| RTX 4090 | игровая | 24 ГБ | ≈165 | 48 | 34 560 ₽ | Арендовать |
| RTX 5090 | игровая | 32 ГБ | ≈210 | 83 | 59 760 ₽ | Арендовать |
| RTX A6000 | профессиональная | 48 ГБ | ≈155 | 66 | 47 520 ₽ | Арендовать |
| L40S | серверная | 48 ГБ | ≈362 | 97 | 69 840 ₽ | Арендовать |
| A100 | серверная | 80 ГБ | ≈312 | 97 | 69 840 ₽ | Арендовать |
| H100 | серверная | 80 ГБ | ≈989 | 417 | 300 240 ₽ | Арендовать |
| H200 | серверная | 141 ГБ | ≈989 | 453 | 326 160 ₽ | Арендовать |
Вопросы об аренде GPU для обучения
Какая видеокарта нужна для обучения нейросети?
Решает видеопамять. Для дообучения LoRA и QLoRA моделей до 8–14B хватает RTX 3090 или RTX 4090 на 24 ГБ. Для QLoRA 32–70B нужны 48–80 ГБ: RTX A6000, L40S, A100. Полное обучение берёт около 16 ГБ на миллиард параметров, поэтому модели от 3B обучают на нескольких A100 или H100.
Сколько стоит обучить модель на арендованной GPU?
Небольшие задачи укладываются в сотни рублей: QLoRA модели 8B на 10 тысячах примеров — 3–5 часов RTX 4090, около 144–240 ₽. QLoRA 70B на A100 занимает 12–20 часов, около 1 164–1 940 ₽. Цена зависит от датасета, числа эпох и длины примеров.
Можно ли обучать на нескольких видеокартах?
Да. В каталоге есть машины с 2, 4 и 8 картами, число карт выбирается при запуске. Для обучения на нескольких GPU используют DDP, FSDP или DeepSpeed. Для больших моделей выбирайте A100 и H100 в SXM-версии с NVLink: обмен между картами там в десятки раз быстрее, чем через PCIe.
Что будет с чекпоинтами после остановки сервера?
После «Остановить» контейнер и диск удаляются, списание прекращается. Сохраняйте чекпоинты во внешнее хранилище (S3, Hugging Face Hub, свой сервер) по ходу обучения или скачайте их до остановки.
Как платить за обучение, если оно идёт ночь?
Списание поминутное, минимум 15 минут за запуск. Запустите обучение в tmux или nohup, чтобы оно не оборвалось при отключении ноутбука, и остановите сервер сразу после выгрузки результата. Баланс в рублях, сейчас пополняется криптовалютой от 500 ₽, оплата картой РФ — скоро.