Аренда видеокарт для ИИ и нейросетей
Для нейросетей на Тераферме доступны видеокарты от 34 ₽ в час: RTX 3090 и 4090 для картинок и моделей до 32B, RTX A6000 и L40S с 48 ГБ для видео и моделей до 68B в 4 битах, A100, H100 и H200 для 70B и обучения. Оплата поминутная, баланс в рублях.
Какую GPU выбрать под модель
| Видеокарта | Память | LLM в FP16, до | LLM в 4 битах, до | От, ₽/час |
|---|---|---|---|---|
| RTX 3090 | 24 ГБ | 10 млрд | 34 млрд | 34 |
| RTX 4090 | 24 ГБ | 10 млрд | 34 млрд | 54 |
| RTX 5090 | 32 ГБ | 13 млрд | 45 млрд | 67 |
| RTX A6000 | 48 ГБ | 20 млрд | 68 млрд | 69 |
| L40S | 48 ГБ | 20 млрд | 68 млрд | 105 |
| A100 | 80 ГБ | 34 млрд | 113 млрд | 154 |
| H100 | 80 ГБ | 34 млрд | 113 млрд | 329 |
| H200 | 141 ГБ | 59 млрд | 199 млрд | 464 |
Оценка с запасом 15% памяти под контекст и служебные буферы. Длинный контекст и большой batch требуют больше.
Инференс LLM
vLLM, Ollama, llama.cpp и TGI. Скорость генерации упирается в пропускную способность памяти: у RTX 4090 — 1 ТБ/с, у H100 — 3,35 ТБ/с.
Генерация изображений
Готовые программы с Flux, Qwen-Image и SDXL или ComfyUI без моделей. SDXL комфортно работает на 16 ГБ, Flux.1 в полной точности на 24 ГБ.
Дообучение
LoRA и QLoRA через Unsloth, Axolotl или PEFT. 24 ГБ хватает для QLoRA моделей до 14B.
Обучение с нуля
A100, H100 и H200 с памятью HBM и тензорными ядрами BF16 — для серьёзных экспериментов и больших моделей.
GPU-сервер для ИИ
Видеокарта
В сервере для нейросетей основную работу делает видеокарта. Её тензорные ядра считают матричные операции в FP16 и BF16 в десятки раз быстрее процессора, поэтому обучение и запуск моделей идут на GPU.
Три параметра
При выборе смотрите на три параметра. Видеопамять определяет, какая модель поместится: около 2 ГБ на миллиард параметров в FP16 и 0,6 ГБ в 4 битах. От пропускной способности памяти зависит скорость генерации токенов: у RTX 4090 это 1 ТБ/с, у H100 3,35 ТБ/с. Несколько карт в одной машине нужны, если модель не помещается в одну или обучение должно идти быстрее.
Оплата
Оплата на Тераферме поминутная, поэтому H100 можно взять на два часа под эксперимент. Готовые программы и PyTorch с Jupyter обычно запускаются за 2–5 минут.
Сервер для нейросети
От задачи
Сервер для нейросети подбирают от задачи. Чтобы поднять чат-бота на Qwen или Llama 8B, хватит одной RTX 4090. Модели 70B в 4 битах нужна карта на 80 ГБ (A100, H100) или две карты по 48 ГБ. Генерация картинок комфортно идёт на 16–24 ГБ, а полное обучение модели — на A100 и H100.
Когда выгодна аренда
Арендованный сервер удобнее своего, когда нагрузка неравномерная: дообучили модель за выходные, потом неделю только инференс на дешёвой карте. Оплачиваются только минуты работы. Остановленный сервер ничего не стоит, а сохранённая папка с моделями обходится в 3 ₽ за ГБ в месяц.
Подбор карты
Подобрать карту под конкретную модель поможет VRAM-калькулятор, а свободные машины прямо сейчас — в списке свободных серверов.
Инструкции по моделям
Цены на GPU для нейросетей
| Видеокарта | Тип | Память | TFLOPS FP32 | Где | Цена, ₽/час | ≈ в месяц | Действие |
|---|---|---|---|---|---|---|---|
| RTX 3090 | игровая | 24 ГБ | ≈35,6 | +14 | 34 ₽/ч | 24 480 ₽ в месяц | Арендовать |
| RTX 4090 | игровая | 24 ГБ | ≈82,6 | +18 | 54 ₽/ч | 38 880 ₽ в месяц | Арендовать |
| RTX 5090 | игровая | 32 ГБ | ≈104,8 | +13 | 67 ₽/ч | 48 240 ₽ в месяц | Арендовать |
| RTX A6000 | профессиональная | 48 ГБ | ≈38,7 | +2 | 69 ₽/ч | 49 680 ₽ в месяц | Арендовать |
| L40S | серверная | 48 ГБ | ≈91,6 | +1 | 105 ₽/ч | 75 600 ₽ в месяц | Арендовать |
| A100 | серверная | 80 ГБ | ≈19,5 | +1 | 154 ₽/ч | 110 880 ₽ в месяц | Арендовать |
| H100 | серверная | 80 ГБ | ≈67 | +4 | 329 ₽/ч | 236 880 ₽ в месяц | Арендовать |
| H200 | серверная | 141 ГБ | ≈67 | +6 | 464 ₽/ч | 334 080 ₽ в месяц | Арендовать |
Для запуска на балансе нужна сумма на час работы, списание — поминутно по факту.
Вопросы об аренде GPU для ИИ
Какая видеокарта нужна для нейросети?
Ориентируйтесь на видеопамять: модель в FP16 занимает около 2 ГБ на миллиард параметров, в 4 битах около 0,6 ГБ, и ещё нужен запас под контекст. Карта на 24 ГБ (RTX 3090, 4090) вмещает модели до 34B в 4 битах, на 48 ГБ (RTX A6000, L40S) до 68B, на 80 ГБ (A100, H100) до 113B, в том числе 70B.
Что выгоднее для инференса LLM: RTX 4090 или A100?
RTX 4090 дешевле (от 54 ₽/час) и быстрее на моделях до 24 ГБ. A100 (от 154 ₽/час) нужна, когда модель не помещается в 24 ГБ или нужен большой batch.
Можно ли дообучить модель на арендованной GPU?
Да. QLoRA моделей до 14B помещается на карту с 24 ГБ, до 70B на карты с 48–80 ГБ. Полное дообучение больших моделей делают на A100, H100 и H200.
Есть ли готовые программы для ИИ?
Да. Готовые программы ставятся вместе с моделями: «Картинки» (Flux, Qwen-Image, SDXL), «Редактор фото» (Qwen Edit), «Видео» (Wan 2.2 14B и 5B) и «Свой ChatGPT» (Qwen3 32B и 8B). Для разработчиков есть PyTorch с Jupyter, vLLM, ComfyUI без моделей и запуск своего Docker-образа.
Сколько стоит аренда видеокарт для искусственного интеллекта?
От 34 ₽ в час за RTX 3090, от 54 ₽ за RTX 4090, от 154 ₽ за A100 и от 329 ₽ за H100. Оплата поминутная с рублёвого баланса, минимальное списание за запуск — 15 минут, а для запуска на балансе нужна сумма на час работы машины. Можно арендовать карту на час, чтобы проверить модель.
Как устроена аренда сервера с видеокартой для ИИ?
В кабинете вы выбираете, что запустить (готовую программу, PyTorch с Jupyter, vLLM, ComfyUI без моделей или свой Docker-образ), затем видеокарту по объёму памяти и машину. Обычно через 2–5 минут сервер готов, доступ есть по SSH и через Jupyter. Драйверы NVIDIA и CUDA уже установлены. Баланс ведётся в рублях и пополняется от 500 ₽ картой российского банка или криптовалютой.