14 октября 2026 г. · Анатолий Крылов, редактор Тераферма
H200 или H100: когда 141 ГБ памяти оправдывают разницу в цене
H200 стоит брать вместо H100, когда задаче тесно в 80 ГБ: вычислительное ядро у карт одинаковое, а разница только в памяти. У H200 141 ГБ HBM3e и 4,8 ТБ/с против 80 ГБ и 3,35 ТБ/с у H100. Это даёт примерно в 1,4 раза более быструю генерацию текста и в несколько раз больше места под контекст. Если модель свободно помещается в 80 ГБ и упирается в вычисления, переплачивать не за что.
На Тераферме H200 сейчас стоит 453 ₽ в час, H100 — 339–417 ₽ в час. Ниже разберём, где 141 ГБ реально меняют результат, как посчитать цену токена и когда одна H200 выгоднее двух H100.
Характеристики: что общего и что разного
| Параметр | H100 SXM | H200 |
|---|---|---|
| Архитектура | Hopper | Hopper |
| Год | 2022 | 2024 |
| Память | 80 ГБ HBM3 | 141 ГБ HBM3e |
| Пропускная способность | 3 350 ГБ/с | 4 800 ГБ/с |
| FP16/BF16 Tensor, dense | ~989 TFLOPS | ~989 TFLOPS |
| FP32 | ~67 TFLOPS | ~67 TFLOPS |
| TDP | 700 Вт | 700 Вт |
| FP8 и Transformer Engine | Есть | Есть |
Главное в таблице: одинаковые TFLOPS. Обучение, которое загружает тензорные ядра на 100% и не упирается в память, на H200 идёт с той же скоростью. Выигрыш появляется только там, где узким местом становится объём или скорость памяти. Для LLM-инференса это почти всегда так.
Сколько стоит: рынок и Тераферма
Цены на эти карты сильно различаются между площадками. Ориентиры:
| Где | H100, ₽/час | H200, ₽/час | H200 / H100 |
|---|---|---|---|
| Тераферма | 339–417 | 453 | см. текущие цены |
| immers.cloud, 1 карта (на 14.10.2026) | от 341,77 | от 423,04 | ×1,24 |
| Vast.ai, медиана (снимок 03.10.2026, курс 83,5) | ~223 ($2,67) | ~418 ($5,00) | ×1,87 |
| Selectel, облако (на 14.10.2026) | нет в прайсе | ~699 за карту (2× H200 от 1 397,98) | — |
Отношение цен колеблется от 1,2 до 1,9 раза. На маркетплейсах H100 и H200 мало, и цена конкретной модели может заметно сдвинуться за день, поэтому перед длинной задачей смотрите актуальные карточки аренды H100 и H200.
Чтобы решить, оправдана ли разница, нужен не тариф, а цена результата: токена, эпохи или обслуженного пользователя.
Где 141 ГБ меняют всё: инференс LLM
Модель 70B в FP8
Модель 70B в FP8 занимает около 70 ГБ. На H100 после загрузки весов и служебных буферов остаётся 5–8 ГБ. На H200 — около 65 ГБ.
KV-кэш модели класса Llama 3.3 70B занимает около 320 КБ на токен в 16 битах. Пересчитаем свободную память в токены контекста:
| Карта | Свободно после весов | Токенов контекста всего | Пользователей по 8 тыс. токенов |
|---|---|---|---|
| H100 | ~8 ГБ | ~25 тыс. | ~3 |
| H200 | ~65 ГБ | ~200 тыс. | ~25 |
Это грубая оценка, но порядок верный: на H200 одновременно обслуживается примерно в 8 раз больше диалогов. Для чат-сервиса или RAG с длинными документами это решающая разница. На H100 ту же модель придётся квантовать в 4 бита или ограничивать контекст.
Модели 100–130B
Модели класса 120B (например, Qwen3.5-122B-A10B или gpt-oss-120b) в 4-битном формате занимают 60–70 ГБ. На H100 они помещаются впритык, без запаса на контекст. На H200 работают с комфортом. Для таких моделей H200 остаётся единственной одиночной картой, на которой их удобно держать в продакшене.
Скорость генерации
Генерация каждого токена требует прочитать все веса. Потолок скорости = пропускная способность ÷ размер весов.
- 70B в FP8 на H100: 3 350 ÷ 70 ≈ 48 токенов в секунду, на практике 30–38.
- То же на H200: 4 800 ÷ 70 ≈ 68 токенов в секунду, на практике 40–55.
Выигрыш в одном потоке составляет около 1,4 раза. Под пакетной нагрузкой разрыв растёт, потому что H200 держит больше запросов в одном батче.
Где H200 не нужна
- Модели до 30B. Qwen 27–32B в FP8 занимает около 30 ГБ. На H100 остаётся 45 ГБ под контекст — этого хватает для десятков пользователей. Платить за дополнительные 61 ГБ незачем.
- Обучение небольших моделей. Если модель с оптимизатором и активациями помещается в 80 ГБ, H200 обучает с той же скоростью, ведь TFLOPS одинаковые.
- Генерация изображений и видео. Flux, SDXL и большинство видеомоделей помещаются в 24–80 ГБ и упираются в вычисления. Здесь H100, а часто и RTX 5090, выгоднее.
- Эксперименты и отладка. Пока вы ищете ошибки в скрипте, любая дорогая карта простаивает. Отлаживайте на RTX 4090 за 48 ₽ в час.
Одна H200 или две H100
Частая альтернатива H200 — пара H100 со 160 ГБ на двоих. Сравним.
| Критерий | 1× H200 | 2× H100 |
|---|---|---|
| Память | 141 ГБ | 160 ГБ (2 × 80) |
| Цена на Тераферме | 453 ₽/час | 678–834 ₽/час |
| Разбиение модели | Не нужно | Tensor parallel, обмен между картами |
| Скорость одного потока | Выше: 4,8 ТБ/с на одну карту | Сопоставима при хорошем NVLink, хуже через PCIe |
| Вычисления для обучения | 989 TFLOPS | 2 × 989 TFLOPS |
Если нужен инференс модели, которой не хватает 80 ГБ, одна H200 обычно проще и выгоднее: нет накладных расходов на синхронизацию, меньше сбоев и проще настройка. Если нужно обучение, где важны вычисления, две H100 дают вдвое больше TFLOPS. Как масштабировать обучение на 2, 4 и 8 карт, мы разбирали в статье про сервер с H100.
Обучение и дообучение
Для полного дообучения в смешанной точности с Adam нужно около 16 байт на параметр без учёта активаций.
| Модель | Память на полное дообучение | H100 80 ГБ | H200 141 ГБ |
|---|---|---|---|
| 3B | ~48 ГБ + активации | Помещается | Помещается с большим батчем |
| 7B | ~112 ГБ + активации | Не помещается без шардинга | На грани, с gradient checkpointing |
| 13B | ~208 ГБ | Нужно 4+ карты | Нужно 2+ карты |
Для LoRA и QLoRA обе карты избыточны на моделях до 30B. Для LoRA на 70B в bf16 (около 140 ГБ весов) H200 будет минимальной одиночной картой, на которой это вообще возможно; на H100 понадобятся две.
Ещё одно преимущество H200 в обучении: больший батч. Больше памяти под активации даёт более полную загрузку тензорных ядер, и эпоха может пройти на 10–20% быстрее даже при одинаковых TFLOPS. Это не гарантия: всё зависит от того, где было узкое место.
Как посчитать, что выгоднее
Формула для инференса:
H200 выгоднее, если (цена H200 ÷ цена H100) < (пропускная способность H200 ÷ пропускная способность H100 на вашей нагрузке).
Пример на условных числах. H100 стоит 300 ₽ в час и обслуживает 3 пользователей с моделью 70B в FP8. H200 стоит 450 ₽, в 1,5 раза дороже, и обслуживает 20 пользователей. Цена пользователя-часа: 100 ₽ против 22,5 ₽. H200 дешевле в 4 с лишним раза.
Обратный пример. Модель 27B на 10 пользователей помещается на обе карты с запасом. H200 отвечает в 1,4 раза быстрее, но если она дороже в 1,5 раза, H100 выгоднее.
Перед выбором проведите замер: час на каждой карте с вашей моделью и реальным профилем запросов. Это стоит 339–417 ₽ плюс 453 ₽ и даёт точный ответ вместо оценок.
Как провести замер за два часа
Замер имеет смысл, только если обе карты получают одинаковую нагрузку. Порядок, который подходит для большинства LLM-сервисов:
- Подготовьте всё до запуска. Скрипт нагрузки, список из 200–500 реальных запросов с типичной длиной контекста, команду запуска сервера. Пока вы пишете код, дорогая карта простаивает.
- Запустите одну и ту же сборку. Одинаковые версии vLLM или SGLang, одинаковая квантизация (FP8), одинаковые
max_model_lenиgpu_memory_utilization. Иначе вы сравниваете настройки, а не карты. Готовая инструкция есть на странице запуска vLLM. - Прогоните нагрузку ступенями. 1, 4, 8, 16 и 32 одновременных запроса по 5 минут на каждую ступень. Записывайте токены в секунду суммарно, время до первого токена и долю запросов, которые встали в очередь.
- Найдите точку насыщения. Это число параллельных запросов, после которого время до первого токена резко растёт. На H100 с 70B в FP8 она наступит рано, когда закончится память под KV-кэш. На H200 — заметно позже.
- Посчитайте цену миллиона токенов для каждой карты: цена часа ÷ (токенов в секунду × 3600) × 1 000 000.
Весь замер укладывается в час на каждой карте. Если цена миллиона токенов на H200 ниже, чем на H100, при вашей реальной нагрузке, вопрос решён без теории.
Что выбрать под типовые задачи
| Задача | Что важнее | Выбор |
|---|---|---|
| Чат-бот на 70B в FP8, 10+ одновременных пользователей | Место под KV-кэш | H200 |
| RAG по длинным документам, контекст 32–128 тыс. токенов | Место под контекст | H200 |
| Модель 100–130B в 4 битах на одной карте | Объём памяти | H200 |
| Модель до 30B, любой контекст | Вычисления и цена часа | H100 |
| Полное дообучение 7–13B | Суммарные TFLOPS | 2–4× H100 |
| LoRA на 70B в bf16 | Объём памяти на одной карте | H200 |
| Flux, SDXL, видеомодели | Вычисления | H100 или RTX 5090 |
| Отладка кода, проверка гипотез | Цена часа | RTX 4090 |
Если ваша задача в таблице упирается в «объём памяти», начните с H200. Если в «вычисления» — с H100. Если вы не уверены, сколько памяти займёт модель с вашим контекстом, сначала прикиньте это в VRAM-калькуляторе: он считает веса и KV-кэш для популярных моделей.
Подробный расчёт месячного бюджета для модели 70B (сутки, неделя, месяц непрерывной работы) есть в статье сколько стоит держать LLM 70B онлайн.
H200 повторяет H100, но с большей и более быстрой памятью. Она оправдывает разницу в цене в трёх случаях: модель 70B в FP8 с длинным контекстом или многими пользователями, модели 100–130B, которым тесно в 80 ГБ, и задачи, где альтернатива — две H100 с разбиением модели. Для моделей до 30B, генерации изображений и обучения, упирающегося в вычисления, H100 даёт тот же результат дешевле.
Сравните текущие цены и характеристики машин на странице аренда H100 и запустите замер на своей модели: оплата поминутная, пополнение баланса — от 500 ₽ криптовалютой, оплата картой РФ скоро.