3 октября 2026 г. · Анатолий Крылов, редактор Терафермы
Как выбрать сервер с видеокартой для ИИ: VRAM, CPU, диск
Сервер с видеокартой для ИИ выбирают в таком порядке: сначала видеопамять под модель (около 2 ГБ на миллиард параметров в 16 битах), потом ОЗУ не меньше VRAM, затем процессор, диск и сеть. Для большинства задач хватает 24 ГБ: RTX 3090 за 34 ₽/час или RTX 4090 за 54 ₽/час. Для крупных моделей и обучения берут A100 80GB за 154 ₽/час или H100 за 277–329 ₽/час.
Готовые конфигурации с ценами собраны на странице аренда сервера с видеокартой для ИИ. Если нужен именно сервер для нейросети под вашу модель, объём памяти и цену по каждой посчитали в разделе запуск нейросетей на GPU.
Из чего состоит сервер для ИИ
Видеокарта — главный, но не единственный компонент. Слабое звено в любом другом месте замедлит работу, даже если GPU топовая.
Видеокарта. Определяет, какие модели вообще можно запустить (объём видеопамяти) и как быстро они будут работать (вычислительная мощность и пропускная способность памяти). Это основная статья расходов.
Оперативная память. Модель сначала читается с диска в ОЗУ, а потом переносится на GPU. Датасеты при обучении тоже проходят через оперативную память. Правило: ОЗУ не меньше объёма видеопамяти, лучше в 1,5–2 раза больше.
Процессор. Для инференса LLM процессор почти не важен. Для обучения он отвечает за подготовку батчей: декодирование картинок, токенизацию, аугментации. Если ядер мало, видеокарта будет ждать данных.
Диск. Только SSD, лучше NVMe. Модели весят десятки гигабайт, и загрузка с медленного диска растягивается на минуты, которые тоже оплачиваются. Объём берите с запасом под модели, датасеты и чекпоинты.
Сеть. Влияет на скорость скачивания моделей с Hugging Face и загрузки ваших данных. Канал от 100 Мбит/с считайте минимумом, быстрее лучше.
Конфигурации под типовые задачи
| Задача | Видеокарта | Видеопамять | ОЗУ | Диск | Цена, ₽/час |
|---|---|---|---|---|---|
| Обучение и эксперименты, небольшие модели | RTX 3060 | 12 ГБ | от 16 ГБ | от 100 ГБ | 13 |
| LLM до 8B, SDXL, LoRA | RTX 3090 | 24 ГБ | от 32 ГБ | от 150 ГБ | 34 |
| Flux, ComfyUI, быстрый инференс до 13B | RTX 4090 | 24 ГБ | от 32 ГБ | от 200 ГБ | 54 |
| LLM до 30B, тяжёлые генеративные модели | RTX 5090 | 32 ГБ | от 64 ГБ | от 200 ГБ | 67 |
| LLM 70B в 4 битах, дообучение 13B | RTX A6000 | 48 ГБ | от 64 ГБ | от 300 ГБ | 69 |
| Инференс на 48 ГБ с высокой скоростью | L40S | 48 ГБ | от 64 ГБ | от 300 ГБ | 105 |
| Обучение, LLM 70B, длинный контекст | A100 80GB | 80 ГБ | от 128 ГБ | от 500 ГБ | 154 |
| Обучение LLM, высоконагруженный API | H100 | 80 ГБ | от 128 ГБ | от 500 ГБ | 277–329 |
| Модели 100B+, огромный контекст | H200 / B200 | 141 / 192 ГБ | от 256 ГБ | от 1 ТБ | 464 / 1543 |
Объёмы ОЗУ и диска в таблице указаны как рекомендуемый минимум для комфортной работы. Полный список карт и характеристик есть в каталоге аренды GPU для ИИ.
Языковые модели
Для инференса LLM всё определяет видеопамять. Модель в 16 битах занимает около 2 ГБ на миллиард параметров, в 4 битах — около 0,6 ГБ. Сверху нужен запас под контекст. Llama 8B в 16 битах помещается на RTX 3090 или RTX 4090, 70B в 4 битах на RTX A6000 или A100. Пошаговый запуск описан в статье как запустить Llama на арендованной GPU.
Генерация изображений и видео
Для Stable Diffusion, SDXL и Flux серверные карты почти не нужны: потребительские RTX 4090 и 5090 работают так же быстро и стоят в разы дешевле. Для видеомоделей пригодится больше памяти, 32–48 ГБ. Подробнее в разборе какая видеокарта нужна для Stable Diffusion, SDXL и Flux.
Обучение и дообучение
Для LoRA и QLoRA хватает одной карты на 24–48 ГБ. Полное обучение моделей от нескольких миллиардов параметров требует A100 или H100, часто нескольких. Здесь важны и процессор, и ОЗУ, и быстрый диск: обучение читает данные постоянно.
Один сервер с несколькими GPU или несколько серверов
Когда одной карты не хватает, есть два пути.
Сервер с несколькими GPU. Две, четыре или восемь карт в одной машине. Подходит, когда модель не помещается в одну карту или нужно ускорить обучение. Карты A100 и H100 соединяются через NVLink, и обмен данными между ними идёт очень быстро. У потребительских карт NVLink нет, обмен идёт через PCIe, что медленнее, но для многих задач достаточно.
Несколько независимых серверов. Подходит для параллельных экспериментов: прогнать 8 вариантов гиперпараметров одновременно, обработать большой датасет кусками, запустить несколько копий API. Каждый сервер оплачивается отдельно и выключается, когда закончил.
Стоимость в обоих случаях складывается из цены каждой карты. 4 × RTX 4090 — 216 ₽/час, 8 × H100 — 2 216–2 632 ₽/час. Поминутная оплата делает многокарточные конфигурации доступными: восемь H100 на 3 часа обойдутся в 6 648–7 896 ₽.
Чек-лист: на что смотреть при выборе
Прежде чем арендовать сервер, пройдитесь по списку:
- Помещается ли модель в видеопамять? Посчитайте веса плюс запас под контекст или батч. Если впритык, берите карту побольше.
- Хватит ли ОЗУ? Не меньше видеопамяти, лучше больше.
- Достаточно ли диска? Модели + датасеты + чекпоинты + окружение. Лучше с запасом 30–50%.
- Как тарифицируется время? Поминутно выгоднее почасового округления.
- Сохраняются ли данные при остановке? Если вы возвращаетесь к задаче, постоянный диск экономит время и деньги.
- Как подключаться? SSH для скриптов, Jupyter для экспериментов в браузере.
- Как платить? Для российских пользователей важны цена в рублях и способ оплаты, который работает из России прямо сейчас. В Тераферме баланс в рублях, пополнение картой российского банка (до 10 000 ₽ за раз) или криптовалютой (USDT, BTC) от 500 ₽. Подробнее в статье аренда GPU с оплатой картой РФ.
Типичные ошибки при выборе конфигурации
Экономия на диске. Сервер на 50 ГБ кажется достаточным, пока вы не начнёте качать модель на 16 ГБ, её квантизированную версию, второй вариант для сравнения и кеш pip. Место заканчивается посреди скачивания, и приходится пересоздавать сервер.
Выбор по названию, а не по памяти. «Возьму самую мощную» звучит логично, но H100 за 277–329 ₽/час для генерации картинок в SDXL почти ничего не даёт по сравнению с RTX 4090 за 54 ₽/час. Сначала определите, сколько памяти нужно, потом выберите самую дешёвую карту, которая её даёт.
Игнорирование контекста. Модель 8B в 16 битах формально помещается в 24 ГБ, но если вам нужен контекст на 64 тысячи токенов и несколько параллельных пользователей, KV-кеш займёт ещё десяток гигабайт. В таком случае разумнее сразу взять A100 80GB или карту на 48 ГБ.
Одна большая карта вместо нескольких маленьких. Для параллельных экспериментов четыре RTX 3090 за 136 ₽/час часто полезнее одной A100 за 154 ₽/час: вы получаете четыре независимых прогона одновременно.
Сколько стоит сервер для ИИ в месяц
Цена зависит от того, сколько часов он реально работает. Несколько примеров по тарифам Тераферма:
| Сценарий | Конфигурация | Часов в месяц | Стоимость |
|---|---|---|---|
| Эксперименты по вечерам | RTX 3090 | 40 | 1 360 ₽ |
| Генерация изображений для работы | RTX 4090 | 80 | 4 320 ₽ |
| Тестовый API в рабочее время | RTX 4090 | 176 | 9 504 ₽ |
| Дообучение раз в неделю | A100 80GB | 40 | 6 160 ₽ |
| Обучение модели раз в месяц | 4 × H100 | 48 | 53 184–63 168 ₽ |
| Постоянный API 24/7 | RTX 4090 | 720 | 38 880 ₽ |
Если нагрузка постоянная, сравните почасовую аренду с выделенным сервером. Расчёт точки безубыточности есть в статье почасовая аренда GPU или выделенный сервер.
Как начать работу
В Тераферме сервер с видеокартой для ИИ запускается за несколько минут:
- Зарегистрируйтесь и пополните баланс от 500 ₽ (картой российского банка или криптовалютой).
- Выберите видеокарту, объём диска и запустите сервер.
- Подключитесь по SSH или через Jupyter.
- Установите нужные библиотеки или запустите Docker-контейнер.
- Работайте, а после окончания остановите сервер, списание прекратится.
Видеокарта не делится с другими пользователями: пока сервер запущен, вся её память и мощность принадлежат вашей задаче.
Пара советов для первого запуска. Начните с короткой сессии на 15–30 минут: поставьте окружение, скачайте модель, проверьте, что всё работает, и замерьте скорость. Это стоит десятки рублей и сразу показывает, правильно ли выбрана конфигурация. Если памяти не хватило или скорость не устраивает, остановите сервер и запустите другую карту, никаких договоров и долгих сроков нет. Долгие процессы запускайте внутри tmux, чтобы обрыв SSH-соединения не остановил работу, и сохраняйте результаты на постоянный диск или скачивайте их до выключения.
Выбор сервера с видеокартой для ИИ не сводится к GPU: нужно ещё подобрать ОЗУ, диск и сеть. Для большинства задач оптимальны RTX 3090 и RTX 4090 с 24 ГБ, для крупных моделей и обучения подходят A100 и H100 с 80 ГБ. Считайте видеопамять под модель, берите ОЗУ и диск с запасом и платите только за реальное время работы. Если сомневаетесь между двумя картами, не гадайте: короткий тест на каждой стоит меньше, чем неделя работы на неподходящей конфигурации, а поминутная оплата позволяет сравнить их буквально за полчаса.
В Тераферме серверы с видеокартами от RTX 3060 до B200 доступны с поминутной оплатой в рублях. Выберите конфигурацию в каталоге GPU для ИИ и запустите её уже сегодня.