14 октября 2026 г. · Анатолий Крылов, редактор Тераферма
Как выбрать сервер с GPU: VRAM, CPU, диск и сеть — чек-лист
Чтобы выбрать сервер с GPU, начните с видеопамяти: она определяет, поместится ли задача вообще. Затем проверьте обвязку, которая не даёт карте простаивать: 4–16 ядер CPU на карту, оперативную память не меньше объёма VRAM, NVMe-диск с запасом 30–50% и канал от 1 Гбит/с. Ошибка в любом из этих пунктов превращает дорогую видеокарту в дорогую грелку.
Он подходит для любого сервера с видеокартой: под нейросети, рендер, вычисления или обработку видео.
Почему видеокарта — не весь сервер
Сервер с GPU работает как конвейер. Данные читаются с диска, процессор их готовит, оперативная память держит буферы, а видеокарта считает. Скорость всего конвейера равна скорости самого медленного звена.
Типичная картина: человек арендует RTX 4090, запускает обучение и видит в nvidia-smi загрузку GPU 30–40%. Карта не виновата: она ждёт, пока два слабых ядра процессора декодируют следующую пачку картинок. Платите вы при этом за 100% времени.
Поэтому выбор идёт в два шага: сначала карта под задачу, затем обвязка под карту.
Чек-лист выбора сервера с GPU
1. Видеопамять: поместится ли задача
Главный параметр. Если модель или сцена не влезает в VRAM, никакая скорость карты не поможет.
Ориентиры для языковых моделей: в 16 битах на миллиард параметров нужно около 2 ГБ, в 4 битах — около 0,6 ГБ, плюс 15% запаса на контекст и служебные буферы.
| VRAM | Карты | LLM в 4 битах | LLM в 16 битах |
|---|---|---|---|
| 16 ГБ | RTX 4060 Ti, RTX 5080 | до 22B | до 6B |
| 24 ГБ | RTX 3090, RTX 4090 | до 34B | до 10B |
| 32 ГБ | RTX 5090 | до 45B | до 13B |
| 48 ГБ | RTX A6000, L40S | до 68B | до 20B |
| 80 ГБ | A100, H100 | до 113B | до 34B |
| 96 ГБ | RTX PRO 6000 | до 136B | до 40B |
Для обучения памяти нужно в разы больше: с оптимизатором Adam в смешанной точности на параметр уходит около 16 байт. Посчитать точнее поможет калькулятор видеопамяти.
2. Пропускная способность памяти и поколение карты
Две карты с одинаковыми 24 ГБ работают по-разному. RTX 3090 читает память на скорости 936 ГБ/с, RTX 4090 — 1 008 ГБ/с, RTX 5090 с 32 ГБ — 1 792 ГБ/с. Для генерации текста LLM это ключевой параметр: каждый токен требует прочитать все веса модели.
Поколение важно и для форматов. FP8 аппаратно поддерживают Ada Lovelace (RTX 4090, L40S), Hopper (H100) и Blackwell (RTX 5090, RTX PRO 6000). У Ampere (RTX 3090, A100) FP8 нет.
3. Процессор: сколько ядер на карту
Сколько CPU нужно, зависит от того, что процессор делает между шагами GPU.
| Задача | Ядер на одну GPU | Почему |
|---|---|---|
| Инференс LLM (vLLM, Ollama) | 4–8 | CPU только токенизирует и отдаёт ответы |
| Генерация изображений (ComfyUI) | 4–8 | Почти всё считает видеокарта |
| Дообучение LLM на тексте | 6–8 | Токенизация обычно сделана заранее |
| Обучение на изображениях и видео | 8–16 | Декодирование JPEG и аугментации на CPU |
| Рендер в Blender (Cycles) | 4–8 | Подготовка сцены перед рендером |
Проверка во время работы простая: если GPU загружена ниже 70%, а htop показывает все ядра на 100%, процессора не хватает. Увеличьте num_workers в DataLoader или берите машину с большим числом ядер.
4. Оперативная память: не меньше VRAM
Модель при загрузке сначала попадает в оперативную память, а уже потом в видеопамять. Если ОЗУ меньше, чем весит модель, загрузка падает с ошибкой или уходит в своп и длится десятки минут.
Правило: ОЗУ ≥ VRAM × 1,5, для обучения с большими датасетами — × 2. Для RTX 4090 это от 32–48 ГБ, для H100 с 80 ГБ — от 128 ГБ. На многокарточном сервере считайте суммарную видеопамять: 4 × RTX 4090 дают 96 ГБ VRAM, значит, нужно от 128–192 ГБ ОЗУ.
5. Диск: NVMe и объём с запасом
HDD и даже SATA SSD становятся для GPU-задач узким местом. Загрузка модели на 15 ГБ с NVMe (3–7 ГБ/с) занимает секунды, с HDD (около 150–200 МБ/с) — больше минуты, и так при каждом перезапуске.
Объём считайте так:
Диск = веса модели + датасет + чекпоинты + 30–50% запаса.
| Сценарий | Что лежит на диске | Минимум |
|---|---|---|
| ComfyUI с Flux | Модель, VAE, энкодеры, LoRA, результаты | 100 ГБ |
| Инференс модели 8B | Веса, окружение Python | 50 ГБ |
| Инференс модели 70B в 16 битах | Около 140 ГБ весов | 300 ГБ |
| Дообучение 7B | Веса, датасет, 3–5 чекпоинтов по 15 ГБ | 200 ГБ |
Отдельно проверьте, сохраняется ли диск после остановки. На Тераферме, как и на многих маркетплейсах, диск удаляется вместе с контейнером, поэтому результаты нужно забирать до остановки или сразу писать во внешнее хранилище.
6. Сеть: сколько стоит ожидание загрузки
Сеть забывают чаще всего, а она напрямую стоит денег. Пока модель скачивается, карта простаивает, а счётчик идёт.
Формула: время = объём в гигабайтах × 8 ÷ скорость в Гбит/с (в секундах).
| Канал | 15 ГБ (Flux, 8B) | 140 ГБ (70B в 16 битах) |
|---|---|---|
| 100 Мбит/с | ~20 минут | ~3 часа 7 минут |
| 500 Мбит/с | ~4 минуты | ~37 минут |
| 1 Гбит/с | ~2 минуты | ~19 минут |
Три часа загрузки модели 70B на H100 обходятся в 1 017–1 251 ₽ за время, когда карта ничего не считала. Для крупных моделей берите машину с каналом от 1 Гбит/с, для небольших хватит 300–500 Мбит/с.
7. Шина PCIe и связь между картами
Для одной карты в инференсе ширина PCIe почти не важна: модель загружается один раз. Для обучения на нескольких картах важна сильно: карты постоянно обмениваются градиентами.
- Одна GPU: достаточно PCIe x8 и выше. На x1 (майнинговые райзеры) загрузка модели станет заметно медленнее.
- 2–4 GPU, обучение: нужны полноценные x16 или NVLink.
- 8 GPU, большие модели: серверы SXM с NVLink, например 8 × H100.
Подробнее о том, когда несколько карт действительно ускоряют работу, читайте в статье про обучение на нескольких GPU.
8. Драйвер и версия CUDA
Свежие фреймворки требуют свежий драйвер. Карты Blackwell (RTX 5090, RTX PRO 6000) работают только с CUDA 12.8 и новее, а PyTorch под них нужен соответствующей сборки. Перед запуском проверьте версию в выводе nvidia-smi: она в правом верхнем углу.
9. Надёжность и история машины
На маркетплейсе одна и та же модель карты стоит на машинах с разной историей. Смотрите на рейтинг надёжности и долю времени онлайн. Для длинного обучения важнее стабильность, чем экономия 5 ₽ в час: обрыв на 20-м часу без чекпоинта стоит дороже.
Правило для длинных задач: сохраняйте чекпоинт каждые 30–60 минут, тогда сбой машины обходится потерей часа, а не суток.
10. Модель оплаты
Почасовая или поминутная оплата выгодна, если карта нужна меньше 60–70% времени. Выделенный сервер на месяц имеет смысл только при почти круглосуточной загрузке.
Пример на RTX 4090 за 48 ₽/час: 4 часа в будни — это 88 часов и 4 224 ₽ в месяц, круглосуточно — 34 560 ₽.
Готовые конфигурации под типовые задачи
Сводим чек-лист в таблицу. Цены Терафермы указаны за час одной карты, итог по конкретной машине зависит от её CPU, ОЗУ и диска.
| Задача | Карта | CPU | ОЗУ | Диск | Сеть | Цена, ₽/час |
|---|---|---|---|---|---|---|
| Эксперименты, SD 1.5, LLM до 8B | RTX 3090 | 4+ ядра | 32 ГБ | 100 ГБ NVMe | 300 Мбит/с | 26 |
| ComfyUI, Flux, LLM до 32B | RTX 4090 | 6+ ядер | 32–48 ГБ | 150 ГБ NVMe | 500 Мбит/с | 48 |
| Быстрый инференс, LoRA для Flux | RTX 5090 | 8+ ядер | 48–64 ГБ | 200 ГБ NVMe | 1 Гбит/с | 83 |
| LLM 70B в 4 битах | RTX A6000 | 8+ ядер | 64–96 ГБ | 300 ГБ NVMe | 1 Гбит/с | 66 |
| Дообучение 13–34B, большой контекст | A100 80 ГБ | 12+ ядер | 128 ГБ | 500 ГБ NVMe | 1 Гбит/с | 97 |
| Обучение с FP8, высокий поток запросов | H100 | 16+ ядер | 128–256 ГБ | 500+ ГБ NVMe | 1+ Гбит/с | 339–417 |
Если речь именно о нейросетях и вы выбираете между LLM, генерацией и обучением, подробные сценарии разобраны в статье как выбрать сервер с видеокартой для ИИ.
Как проверить сервер за 5 минут после запуска
Даже если характеристики указаны в карточке, проверьте их сами: это минуты, а не часы.
nvidia-smi # модель карты, VRAM, драйвер, версия CUDA
nproc # число доступных ядер CPU
free -h # оперативная память
df -h /workspace # свободное место на рабочем диске
curl -o /dev/null -w "%{speed_download}\n" <ссылка на файл 1+ ГБ> # скорость сетиПоследняя команда покажет скорость скачивания в байтах в секунду. Подставьте ссылку на любой крупный файл, например на веса модели, которую всё равно будете качать. Если вместо ожидаемых 100+ МБ/с вы видите 5–10 МБ/с, загрузка большой модели растянется на часы, лучше сразу остановить машину и выбрать другую.
Ещё одна проверка делается под нагрузкой. Запустите задачу и посмотрите nvidia-smi dmon или watch nvidia-smi. Загрузка GPU стабильно выше 80–90% значит, что обвязка подобрана правильно.
Частые ошибки при выборе
- Выбор по названию карты, а не по памяти. H100 для модели 8B — переплата в разы.
- Самая дешёвая машина с медленной сетью. Экономия 5 ₽ в час съедается часом ожидания загрузки.
- ОЗУ меньше VRAM. Модель 70B не загрузится на машину с 64 ГБ оперативной памяти, даже если видеопамяти хватает.
- Диск впритык. Третий чекпоинт не записывается, обучение падает на 10-м часу.
- Нет проверки после запуска. Пять минут на
nvidia-smiи тест сети экономят часы.
Выбор сервера с GPU начинается с видеопамяти под задачу, затем идёт обвязка: 4–16 ядер на карту, ОЗУ не меньше VRAM, NVMe с запасом и канал от 1 Гбит/с для крупных моделей. На Тераферме у каждой машины в каталоге серверов видны процессор, память, диск, скорость интернета и надёжность. Отфильтруйте по своим цифрам из чек-листа. Если готовы запускать, вам нужна аренда сервера с GPU: выберите карту, запуск занимает 1–3 минуты, оплата поминутная.