Логотип Тераферма Тераферма Регистрация
Меню
Запуск нейросетей

Как запустить DeepSeek на арендованной GPU

DeepSeek R1 — открытая модель с рассуждениями. Полная версия на 671 млрд параметров требует сотен гигабайт видеопамяти, поэтому на практике чаще запускают дистилляты: 7B, 14B, 32B и 70B. Они помещаются на одну-две видеокарты и стоят десятки рублей в час. Самый дешёвый вариант на Тераферме — RTX 3060 за 12 ₽ в час.

Арендовать GPUVRAM-калькулятор
Цепочка рассуждений модели DeepSeek ведёт к ответу в чате

Сколько памяти нужно и какую видеокарту взять

ВариантFP164 битаПодходящая видеокартаЦена, ₽/час
R1 Distill 7B 17 ГБ5 ГБ RTX 3060 12
R1 Distill 14B 33 ГБ10 ГБ RTX 3060 12
R1 Distill 32B 74 ГБ23 ГБ 2× RTX A4000 34
R1 Distill 70B 161 ГБ49 ГБ 4× RTX A4000 68
R1 / V3 полная (671B, MoE) 1544 ГБ463 ГБ 8× A100 776

Расчёт: FP16 ≈ 2 ГБ на миллиард параметров, 4 бита ≈ 0,6 ГБ, плюс 15% на контекст. Подбор — самая дешёвая конфигурация, где хватает памяти.

Запуск по шагам

  1. Зарегистрируйтесь и пополните баланс от 500 ₽ (сейчас криптовалютой, оплата картой РФ — скоро)
  2. Выберите видеокарту на 5+ ГБ
  3. Запустите шаблон и выполните команды из блока ниже
  4. Работайте через SSH или Jupyter и остановите сервер после работы

Через Ollama (проще всего)

curl -fsSL https://ollama.com/install.sh | sh ollama run deepseek-r1:32b

Через vLLM (API, высокая нагрузка)

pip install vllm vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --max-model-len 16384

Советы

  • Дистиллят 32B в 4 битах — лучший баланс качества и цены: помещается на одну RTX 3090 или 4090.
  • Рассуждения R1 длинные — закладывайте контекст 16–32 тыс. токенов, это добавит несколько гигабайт к памяти.
  • Полную 671B разумно запускать только в 4 битах на 8× H100/H200 — это сотни рублей в час.

Читайте также

Частые вопросы

Какая видеокарта нужна для DeepSeek R1?

Для дистиллята 7B хватит карты на 8–12 ГБ, для 32B в 4 битах — 24 ГБ (RTX 3090/4090), для 70B в 4 битах — 48 ГБ (RTX A6000, L40S) или две карты по 24 ГБ.

Можно ли запустить полную DeepSeek R1 671B?

Да, но нужно около 400 ГБ видеопамяти даже в 4 битах — это конфигурация из 8× H100 или H200.

Чем дистиллят отличается от полной модели?

Это модели Qwen и Llama, дообученные на рассуждениях R1. Они слабее оригинала, но в разы дешевле в запуске.

Сервер будет готов через пару минут

Регистрация за минуту, пополнение от 500 ₽, оплата поминутно.

Зарегистрироваться GPU для ИИ