Логотип Терафермы Тераферма Регистрация
GPU для искусственного интеллекта

Аренда видеокарт для ИИ и нейросетей

Для нейросетей на Тераферме доступны видеокарты от 34 ₽ в час: RTX 3090 и 4090 для картинок и моделей до 32B, RTX A6000 и L40S с 48 ГБ для видео и моделей до 68B в 4 битах, A100, H100 и H200 для 70B и обучения. Оплата поминутная, баланс в рублях.

Серверная видеокарта и над ней чат, картинка, звук и граф нейросети

Какую GPU выбрать под модель

ВидеокартаПамятьLLM в FP16, доLLM в 4 битах, доОт, ₽/час
RTX 309024 ГБ10 млрд34 млрд34
RTX 409024 ГБ10 млрд34 млрд54
RTX 509032 ГБ13 млрд45 млрд67
RTX A600048 ГБ20 млрд68 млрд69
L40S48 ГБ20 млрд68 млрд105
A10080 ГБ34 млрд113 млрд154
H10080 ГБ34 млрд113 млрд329
H200141 ГБ59 млрд199 млрд464

Оценка с запасом 15% памяти под контекст и служебные буферы. Длинный контекст и большой batch требуют больше.

Инференс LLM

vLLM, Ollama, llama.cpp и TGI. Скорость генерации упирается в пропускную способность памяти: у RTX 4090 — 1 ТБ/с, у H100 — 3,35 ТБ/с.

Генерация изображений

Готовые программы с Flux, Qwen-Image и SDXL или ComfyUI без моделей. SDXL комфортно работает на 16 ГБ, Flux.1 в полной точности на 24 ГБ.

Дообучение

LoRA и QLoRA через Unsloth, Axolotl или PEFT. 24 ГБ хватает для QLoRA моделей до 14B.

Обучение с нуля

A100, H100 и H200 с памятью HBM и тензорными ядрами BF16 — для серьёзных экспериментов и больших моделей.

GPU-сервер для ИИ

Видеокарта

В сервере для нейросетей основную работу делает видеокарта. Её тензорные ядра считают матричные операции в FP16 и BF16 в десятки раз быстрее процессора, поэтому обучение и запуск моделей идут на GPU.

Три параметра

При выборе смотрите на три параметра. Видеопамять определяет, какая модель поместится: около 2 ГБ на миллиард параметров в FP16 и 0,6 ГБ в 4 битах. От пропускной способности памяти зависит скорость генерации токенов: у RTX 4090 это 1 ТБ/с, у H100 3,35 ТБ/с. Несколько карт в одной машине нужны, если модель не помещается в одну или обучение должно идти быстрее.

Оплата

Оплата на Тераферме поминутная, поэтому H100 можно взять на два часа под эксперимент. Готовые программы и PyTorch с Jupyter обычно запускаются за 2–5 минут.

Три параметра, по которым выбирают GPU для нейросети
1. Видеопамять Сколько занимает модель 8B
FP1616 ГБ
4 бита4,8 ГБ
≈2 ГБ на миллиард параметров в FP16 и 0,6 ГБ в 4 битах
2. Скорость памяти От неё зависит, сколько токенов в секунду
RTX 40901,01 ТБ/с
H1003,35 ТБ/с
H100 выдаёт токены примерно в 3,3 раза быстрее
3. Число карт Когда модель не помещается в одну
80 ГБили48 ГБ48 ГБ
70B в 4 битах: A100 или H100 на 80 ГБ либо две карты по 48 ГБ

Сервер для нейросети

От задачи

Сервер для нейросети подбирают от задачи. Чтобы поднять чат-бота на Qwen или Llama 8B, хватит одной RTX 4090. Модели 70B в 4 битах нужна карта на 80 ГБ (A100, H100) или две карты по 48 ГБ. Генерация картинок комфортно идёт на 16–24 ГБ, а полное обучение модели — на A100 и H100.

Когда выгодна аренда

Арендованный сервер удобнее своего, когда нагрузка неравномерная: дообучили модель за выходные, потом неделю только инференс на дешёвой карте. Оплачиваются только минуты работы. Остановленный сервер ничего не стоит, а сохранённая папка с моделями обходится в 3 ₽ за ГБ в месяц.

Подбор карты

Подобрать карту под конкретную модель поможет VRAM-калькулятор, а свободные машины прямо сейчас — в списке свободных серверов.

Разные нейросети — чат, картинки, речь, видео — подбираются к подходящей видеокарте

Цены на GPU для нейросетей

ВидеокартаТипПамятьTFLOPS FP32ГдеЦена, ₽/час≈ в месяцДействие
RTX 3090 игровая 24 ГБ ≈35,6 +14 34 ₽/ч 24 480 ₽ в месяц Арендовать
RTX 4090 игровая 24 ГБ ≈82,6 +18 54 ₽/ч 38 880 ₽ в месяц Арендовать
RTX 5090 игровая 32 ГБ ≈104,8 +13 67 ₽/ч 48 240 ₽ в месяц Арендовать
RTX A6000 профессиональная 48 ГБ ≈38,7 +2 69 ₽/ч 49 680 ₽ в месяц Арендовать
L40S серверная 48 ГБ ≈91,6 +1 105 ₽/ч 75 600 ₽ в месяц Арендовать
A100 серверная 80 ГБ ≈19,5 +1 154 ₽/ч 110 880 ₽ в месяц Арендовать
H100 серверная 80 ГБ ≈67 +4 329 ₽/ч 236 880 ₽ в месяц Арендовать
H200 серверная 141 ГБ ≈67 +6 464 ₽/ч 334 080 ₽ в месяц Арендовать

Для запуска на балансе нужна сумма на час работы, списание — поминутно по факту.

Вопросы об аренде GPU для ИИ

Какая видеокарта нужна для нейросети?

Ориентируйтесь на видеопамять: модель в FP16 занимает около 2 ГБ на миллиард параметров, в 4 битах около 0,6 ГБ, и ещё нужен запас под контекст. Карта на 24 ГБ (RTX 3090, 4090) вмещает модели до 34B в 4 битах, на 48 ГБ (RTX A6000, L40S) до 68B, на 80 ГБ (A100, H100) до 113B, в том числе 70B.

Что выгоднее для инференса LLM: RTX 4090 или A100?

RTX 4090 дешевле (от 54 ₽/час) и быстрее на моделях до 24 ГБ. A100 (от 154 ₽/час) нужна, когда модель не помещается в 24 ГБ или нужен большой batch.

Можно ли дообучить модель на арендованной GPU?

Да. QLoRA моделей до 14B помещается на карту с 24 ГБ, до 70B на карты с 48–80 ГБ. Полное дообучение больших моделей делают на A100, H100 и H200.

Есть ли готовые программы для ИИ?

Да. Готовые программы ставятся вместе с моделями: «Картинки» (Flux, Qwen-Image, SDXL), «Редактор фото» (Qwen Edit), «Видео» (Wan 2.2 14B и 5B) и «Свой ChatGPT» (Qwen3 32B и 8B). Для разработчиков есть PyTorch с Jupyter, vLLM, ComfyUI без моделей и запуск своего Docker-образа.

Сколько стоит аренда видеокарт для искусственного интеллекта?

От 34 ₽ в час за RTX 3090, от 54 ₽ за RTX 4090, от 154 ₽ за A100 и от 329 ₽ за H100. Оплата поминутная с рублёвого баланса, минимальное списание за запуск — 15 минут, а для запуска на балансе нужна сумма на час работы машины. Можно арендовать карту на час, чтобы проверить модель.

Как устроена аренда сервера с видеокартой для ИИ?

В кабинете вы выбираете, что запустить (готовую программу, PyTorch с Jupyter, vLLM, ComfyUI без моделей или свой Docker-образ), затем видеокарту по объёму памяти и машину. Обычно через 2–5 минут сервер готов, доступ есть по SSH и через Jupyter. Драйверы NVIDIA и CUDA уже установлены. Баланс ведётся в рублях и пополняется от 500 ₽ картой российского банка или криптовалютой.

Не знаете, какую карту взять?

Сравните модели по памяти и цене в общем каталоге.