Стоит ли брать A100 80 ГБ для нейросетей в 2026 году?

Да, если задача упирается в объём памяти, а не в скорость вычислений: инференс 70B в 4–8 битах, QLoRA и LoRA больших моделей, эмбеддинги, Whisper, пакетная генерация. У A100 те же 80 ГБ, что у H100, а час стоит 97 ₽ против 339–417 ₽.

Во сколько раз H100 быстрее A100?

По паспорту H100 SXM даёт около 989 TFLOPS в FP16 против 312 у A100 и 3,35 ТБ/с памяти против 2,04 ТБ/с. На практике генерация токенов LLM ускоряется примерно в 1,5–1,7 раза (по пропускной способности памяти), обучение в bf16 — в 2–3 раза, с FP8 — сильнее.

Какую модель LLM можно запустить на одной A100 80 ГБ?

В 16 битах — до 30–34B параметров с запасом на контекст. В 8 битах — 70B впритык, в 4 битах — 70B с запасом под длинный контекст и параллельные запросы.

Поддерживает ли A100 FP8?

Нет. Аппаратный FP8 появился в Hopper (H100, H200). На A100 работают bf16, fp16, TF32 и целочисленные INT8/INT4. Квантованные модели в 4 и 8 бит запускаются на A100 без проблем.

Сколько стоит месяц работы A100 80 ГБ?

Месяц непрерывной работы — 720 часов — стоит 69 840 ₽ по текущей цене Терафермы. Обычно карту включают только на время задачи: ночной прогон QLoRA на 8 часов обходится в 776 ₽.

14 октября 2026 г. · Анатолий Крылов, редактор Тераферма

A100 80 ГБ для нейросетей в 2026: для каких задач она выгоднее H100

Два серверных ускорителя на весах со стопкой монет и секундомером — A100 80GB для нейросетей против H100 по цене и скорости

A100 80 ГБ для нейросетей в 2026 году остаётся выгодной там, где задача упирается в объём памяти, а не в вычисления. У неё те же 80 ГБ, что у H100, а час стоит 97 ₽ против 339–417 ₽ у H100. Если H100 ускоряет вашу задачу меньше, чем во столько раз, во сколько она дороже, то A100 даёт результат дешевле.

A100 и H100: что изменилось за поколение

A100 вышла в 2020 году на архитектуре Ampere, H100 вышла в 2022-м на Hopper. Объём памяти у версий на 80 ГБ одинаковый, всё остальное у H100 заметно сильнее.

Параметр	A100 80 ГБ	H100 SXM	Во сколько раз
Видеопамять	80 ГБ HBM2e	80 ГБ HBM3	1×
Пропускная способность	2 039 ГБ/с	3 350 ГБ/с	1,6×
FP16/BF16 Tensor, dense	312 TFLOPS	989 TFLOPS	3,2×
FP32	19,5 TFLOPS	67 TFLOPS	3,4×
FP8	нет	есть	—
Мощность (TDP)	400 Вт	700 Вт	1,75×
Аренда на Тераферме, ₽/час	97	339–417	—

Из таблицы видно главное. По вычислениям H100 сильнее втрое, а по памяти только в 1,6 раза. Поэтому всё зависит от того, что именно ограничивает вашу задачу.

Правило выбора: цена результата, а не цена часа

Формула простая:

стоимость задачи = цена часа × время выполнения

H100 выгоднее, только когда её ускорение больше, чем разница в цене часа:

ускорение H100 > цена часа H100 ÷ цена часа A100

Подставьте текущие цены из каталога: A100 — 97 ₽/час, H100 — 339–417 ₽/час. Разница в цене часа сейчас больше, чем даже паспортное трёхкратное превосходство H100 по вычислениям. Это значит, что на одной карте A100 почти всегда даёт меньший счёт. Платить за H100 имеет смысл ради времени, а не ради экономии.

Важная оговорка: цены H100 у разных владельцев различаются сильнее, чем у A100, поэтому перед большой задачей посмотрите актуальные предложения в карточке аренды H100.

Где A100 80 ГБ выигрывает

Инференс LLM до 70B

Генерация токенов у языковых моделей ограничена скоростью чтения весов из памяти, а не вычислениями. Каждый новый токен требует прочитать всю модель. Поэтому на одиночных запросах H100 быстрее A100 примерно в 1,5–1,7 раза, ровно в пропорции пропускной способности памяти, а не в три раза.

Что помещается на одну A100 80 ГБ с запасом 15% под контекст:

в 16 битах помещаются модели до 30–34B (Qwen 32B, Gemma 27B);
в 8 битах 70B помещается впритык, короткий контекст;
в 4 битах (AWQ, GPTQ, GGUF Q4) 70B встаёт с запасом под длинный контекст и несколько параллельных запросов.

Для внутреннего чат-бота, RAG по документам или прототипа API этого достаточно. Подробная таблица памяти по размерам моделей есть в статье сколько видеопамяти нужно для LLM.

QLoRA и LoRA больших моделей

Дообучение адаптеров упирается в память: веса модели, активации, состояния оптимизатора для обучаемых параметров. QLoRA модели 70B помещается в 80 ГБ, на 24 ГБ — уже нет. Скорость здесь вторична: прогон на ночь на A100 стоит в разы меньше, чем на H100, а результат к утру тот же.

Пакетные задачи без дедлайна

Эмбеддинги для поиска по базе документов, расшифровка архива аудио Whisper, разметка датасета моделью, генерация описаний товаров — всё, что можно запустить вечером и забрать утром. Здесь платят за объём работы, а не за скорость, и A100 почти всегда дешевле в пересчёте на тысячу документов или час аудио.

Отладка перед большим прогоном

Скрипт обучения, который упадёт на третьей итерации из-за ошибки в загрузчике, одинаково упадёт на любой карте. Отлаживать удобно на A100 с той же памятью, что у H100: если код и батч помещаются в 80 ГБ на A100, они поместятся и на H100.

Где H100 окупает разницу

Обучение в FP8

У A100 нет аппаратного FP8. На H100 библиотеки вроде Transformer Engine переводят часть вычислений в FP8, и обучение крупных трансформеров ускоряется сильнее, чем в bf16. Если ваш стек это поддерживает, H100 даёт выигрыш, которого на A100 не получить никакими настройками.

Полное обучение и континуальное дообучение

Когда загрузка GPU держится около 100% и задача упирается в матричные умножения, H100 в bf16 работает в 2–3 раза быстрее. Для многодневного обучения это разница между неделей и тремя днями. Если есть дедлайн или команда ждёт результат, время дороже переплаты.

API с большим потоком запросов

При десятках параллельных запросов инференс превращается из задачи «прочитать память» в задачу «посчитать матрицы» — батч растёт, и вычислительное преимущество H100 начинает работать. Если сервис обслуживает много пользователей одновременно, одна H100 может заменить несколько A100.

Модели, которым тесно в 80 ГБ

Это аргумент не за H100, а против обеих карт. Для 70B в 16 битах или очень длинного контекста смотрите на H200 со 141 ГБ: одна карта вместо двух проще и часто дешевле. Цены смотрите в карточке H200.

Расчёт на трёх задачах

Ускорение H100 в таблице взято как ориентир для типичных настроек. Ваше реальное ускорение зависит от модели, длины последовательностей и батча, поэтому замерьте его за 10–15 минут на обеих картах до большого прогона.

Задача	Время на A100	Стоимость на A100	Ожидаемое ускорение H100	Время на H100	Стоимость на H100
QLoRA 70B, датасет на 20 тыс. примеров	20 ч	1 940 ₽	2×	10 ч	3 390–4 170 ₽
Эмбеддинги 5 млн фрагментов	8 ч	776 ₽	1,7×	4,7 ч	1 593–1 960 ₽
Инференс 70B в 4 битах, рабочая неделя (40 ч)	40 ч	3 880 ₽	— (время то же)	40 ч	13 560–16 680 ₽

Третья строка показывает частую ошибку. Если сервер просто держит модель для команды в рабочие часы, ускорение ничего не экономит: карта работает столько же часов, сколько открыт офис. Здесь решает только цена часа.

Как выжать максимум из A100

Используйте bf16, а не FP32. В FP32 A100 даёт 19,5 TFLOPS, в bf16 на тензорных ядрах — 312. Разница в 16 раз на одной строке конфигурации.
Включите TF32 для старого кода. Если код написан под FP32, флаг torch.backends.cuda.matmul.allow_tf32 = True заметно ускоряет матричные операции без переписывания.
Квантуйте инференс. AWQ или GPTQ в 4 битах уменьшают объём читаемых весов в четыре раза, и генерация токенов ускоряется почти пропорционально.
Берите vLLM для сервиса. Непрерывный батчинг и PagedAttention поднимают пропускную способность A100 на нескольких параллельных пользователях. Шаблон vLLM есть в кабинете.
Включите FlashAttention 2. Он поддерживает Ampere и экономит память на длинном контексте. FlashAttention 3 рассчитан на Hopper, на A100 он не нужен.
Следите за загрузкой. Если nvidia-smi показывает меньше 70%, карта ждёт данных. Увеличьте батч и число воркеров загрузчика: это бесплатное ускорение.

Сколько стоит A100 на разных сроках

Поминутная оплата позволяет брать A100 ровно на время задачи. Ниже видно, во что обходятся типичные сроки работы при текущих ценах каталога.

Срок работы	A100 80 ГБ	H100
1 час — замер или отладка	97 ₽	339–417 ₽
8 часов — ночной прогон QLoRA	776 ₽	2 712–3 336 ₽
40 часов — рабочая неделя инференса	3 880 ₽	13 560–16 680 ₽
720 часов — месяц непрерывной работы	69 840 ₽	244 080–300 240 ₽

Месяц круглосуточной работы для одной карты случается редко. Чаще A100 включают под конкретную задачу: прогнали дообучение, скачали адаптер, остановили сервер. Важно помнить, что после остановки данные на машине удаляются, поэтому чекпоинты и результаты выгружайте заранее. Как не платить за часы, когда карта ничего не считает, разобрано в статье как сэкономить на аренде GPU.

Как замерить своё ускорение за 15 минут

Цифры «в 1,5–3 раза» усреднённые. Перед большим прогоном проверьте их на своей задаче:

Подготовьте скрипт и небольшой кусок данных заранее, до запуска сервера.
Запустите A100, прогоните 100–200 шагов обучения или 200 запросов инференса, запишите шаги в секунду или токены в секунду.
Повторите то же на H100 с теми же настройками батча и точности.
Разделите скорость H100 на скорость A100 и сравните с отношением цен часа.

Если ускорение меньше отношения цен, берите A100. Замер на двух картах занимает около получаса и стоит меньше, чем один лишний час неудачного выбора на длинной задаче.

A100 против других карт на 48–96 ГБ

A100 — не единственный способ получить много памяти недорого. Для инференса без обучения стоит сравнить её с профессиональными картами:

RTX A6000 (48 ГБ, 66 ₽/час) — 70B в 4 битах с коротким контекстом, но пропускная способность памяти почти втрое ниже, чем у A100;
L40S (48 ГБ, 97 ₽/час) — быстрая для генерации изображений, есть FP8, но памяти меньше;
RTX PRO 6000 (96 ГБ, 185 ₽/час) — больше памяти, чем у A100, и свежая архитектура Blackwell.

У A100 два преимущества перед ними: память HBM на 2 ТБ/с и NVLink для связки нескольких карт. Для обучения на 2–8 картах это важнее, чем для одиночного инференса. Сравнение A100 с H100 и RTX 4090 на конкретных задачах есть в материале H100 vs A100 vs RTX 4090.

A100 80 ГБ в 2026 году — не устаревшая карта, а самый дешёвый способ получить 80 ГБ памяти HBM. Инференс до 70B, QLoRA, эмбеддинги и пакетные задачи на ней обходятся дешевле, чем на H100. H100 стоит брать за FP8, за многодневное обучение с дедлайном и за API с большим потоком запросов.

Проверьте свою задачу на практике: час на A100 стоит 97 ₽, оплата поминутная. Запустить сервер можно на странице аренда A100.