12 ноября 2026 г. · Анатолий Крылов, редактор Терафермы
Свой код-ассистент вместо Copilot: Qwen Coder на арендованной GPU
Локальный аналог Copilot в 2026 году складывается из открытой модели для кода на своей видеокарте и плагина для редактора. Рабочая связка: Qwen3.6 27B или Qwen3-Coder 30B-A3B в 4 битах на арендованной RTX 4090 за 54 ₽/час, vLLM с OpenAI-совместимым API и плагин Continue или Cline в VS Code. Восемь часов работы в будни обходятся примерно в 9 504 ₽ в месяц, и этим сервером может пользоваться вся небольшая команда.
Почему не Copilot
По данным на октябрь 2026, у GitHub Copilot тарифы для частных разработчиков — Pro за $10, Pro+ за $39 и Max за $100 в месяц, для компаний — Business за $19 и Enterprise за $39 за пользователя. С июня 2026, по сообщениям обзоров тарифов, запросы к моделям в чате и агентном режиме учитываются в кредитах, которые расходуются по токенам. Автодополнение в платных тарифах остаётся без лимита.
Из России с Copilot две проблемы:
- Оплата. Российские карты не проходят, а по сообщениям русскоязычных обзоров, условия GitHub ограничивают продажу Copilot в Россию. Остаются зарубежные карты и посредники, но с риском для аккаунта.
- Код уходит наружу. Copilot отправляет фрагменты кода на серверы провайдера. Для многих компаний это недопустимо по внутренним правилам, независимо от страны.
Своя модель решает обе: платите за аренду сервера, а код обрабатывается на машине, которой управляете вы.
Какую модель взять
Открытые модели для кода по данным на октябрь 2026. Цифры SWE-bench Verified взяты из опубликованных результатов в открытых источниках, проверяйте их в карточках моделей.
| Модель | Тип | SWE-bench Verified | Веса в 4 битах | Минимальная карта |
|---|---|---|---|---|
| Qwen3.6 27B | плотная | ≈ 77% | ≈ 16,5 ГБ | 24 ГБ |
| Qwen3.6 35B-A3B | MoE, 3B активных | ≈ 73% | ≈ 21 ГБ | 24 ГБ впритык, лучше 32 ГБ |
| Qwen3-Coder 30B-A3B | MoE, 3B активных | ниже, модель 2025 года | ≈ 16–19 ГБ | 24 ГБ |
| Qwen3.5 9B | плотная | — | ≈ 5,5 ГБ | 12–16 ГБ |
Как выбирать:
- Qwen3.6 27B. Лучшее качество на одной карте. Плотная модель генерирует медленнее MoE, на RTX 4090 ориентир — 30–40 токенов в секунду для одного пользователя. Для чата и агента этого достаточно.
- Qwen3.6 35B-A3B. Почти то же качество, но в несколько раз быстрее за счёт того, что на каждый токен работает около 3 млрд параметров. Хороший выбор, если сервером пользуются несколько человек.
- Qwen3-Coder 30B-A3B. Специализированная модель прошлого поколения, хорошо поддерживается плагинами и инструментами. Подойдёт, если новые модели ведут себя нестабильно в вашем инструменте.
- Маленькая модель для автодополнения. Подсказки по мере набора должны приходить за доли секунды, поэтому для них берут отдельную модель на 1,5–7B с поддержкой режима fill-in-the-middle, например из семейства Qwen2.5-Coder. Она занимает 1–5 ГБ и работает рядом с большой.
Обзор других лёгких моделей для одной карты есть в статье лёгкие LLM для одной видеокарты.
Сколько памяти нужно под контекст
Код-ассистенту нужен длинный контекст: в промпт попадают открытые файлы, фрагменты репозитория и история чата. Агентному режиму, где модель сама читает файлы и запускает команды, нужно 32–64 тыс. токенов и больше.
Память = веса модели + KV-кэш × длина контекста × число одновременных запросов + 10–15% запаса
У современных моделей на 27–35B KV-кэш в bf16 занимает порядка 60–250 КБ на токен в зависимости от архитектуры. На карте с 24 ГБ после весов Qwen3.6 27B остаётся около 6 ГБ, этого хватает на один-два запроса по 32 тыс. токенов, особенно с квантованным кэшем в FP8. Для агентной работы с 64 тыс. токенов и больше или для нескольких разработчиков одновременно удобнее RTX 5090 с 32 ГБ.
| Сценарий | Модель | Карта | Тариф, ₽/час |
|---|---|---|---|
| Один разработчик, чат и автодополнение | Qwen3.6 27B + 1,5B для подсказок | RTX 4090 | 54 |
| Один разработчик, агентный режим, длинный контекст | Qwen3.6 27B или 35B-A3B | RTX 5090 | 67 |
| Команда 3–5 человек | Qwen3.6 35B-A3B | RTX 5090 или RTX A6000 | 67 / 69 |
| Эксперименты, простые задачи | Qwen3.5 9B | RTX 4060 Ti 16 ГБ | 21 |
Как запустить модель
На арендованном сервере поднимите vLLM. Он отдаёт OpenAI-совместимый API, к которому подключаются почти все плагины.
pip install vllm
vllm serve Qwen/Qwen3.6-27B-AWQ \
--max-model-len 32768 --kv-cache-dtype fp8 \
--gpu-memory-utilization 0.92 --api-key my-secret-key \
--enable-auto-tool-choice --tool-call-parser qwen3_coder
Параметры:
--max-model-len— максимальная длина контекста. Больше — меньше места под одновременные запросы.--kv-cache-dtype fp8хранит кэш в 8 битах, вдвое больше контекста в той же памяти.--api-key— без ключа любой, кто найдёт порт, сможет пользоваться вашей моделью.--enable-auto-tool-choiceи парсер вызова инструментов — нужны агентным плагинам, которые читают файлы и запускают команды. Название парсера для конкретной модели смотрите в её карточке и документации vLLM.
Названия репозиториев с квантованными весами проверяйте на Hugging Face: их публикуют и разработчики, и сообщество. Если удобнее Ollama, то она проще в установке, но хуже держит несколько запросов одновременно. Готовые команды для моделей Qwen собраны на странице запуск Qwen на арендованной GPU.
Как подключить редактор
Не открывайте порт модели в интернет. Проще и безопаснее пробросить его через SSH-туннель:
ssh -p 31001 -N -L 8000:localhost:8000 root@teraferma.io
Порт SSH берётся из карточки сервера. Пока туннель открыт, модель доступна на вашем компьютере по адресу http://localhost:8000/v1, как будто она запущена локально.
Дальше ставим плагин:
- Continue (VS Code и JetBrains): чат, правка выделенного кода, автодополнение. В настройках укажите провайдера OpenAI-совместимого API, адрес
http://localhost:8000/v1, ключ и имя модели. Для автодополнения — отдельно маленькую модель. - Cline и Roo Code (VS Code) дают агентный режим: модель сама читает файлы проекта, предлагает правки и запускает команды в терминале с вашего подтверждения. Им нужен длинный контекст и поддержка вызова инструментов.
- Aider. Агент в терминале, работает с git: каждую правку оформляет коммитом, удобно откатывать.
Для команды можно поднять общий сервер и раздать каждому свой ключ через прокси вроде LiteLLM. Тогда видно, кто сколько пользуется, а модель одна на всех.
Сколько это стоит
Аренда поминутная, поэтому сервер включают на рабочее время и выключают вечером.
Стоимость в месяц = тариф, ₽/час × часы в день × рабочие дни
| Режим | Часов в месяц | RTX 4090 | RTX 5090 |
|---|---|---|---|
| 4 часа в будни | 88 | 4 752 ₽ | 5 896 ₽ |
| 8 часов в будни | 176 | 9 504 ₽ | 11 792 ₽ |
| 10 часов каждый день | 300 | 16 200 ₽ | 20 100 ₽ |
Сравнение с Copilot по курсу около 83,6 ₽ за доллар:
- Один разработчик. Copilot Pro за $10 (около 840 ₽) дешевле своего сервера, если вы можете его оплатить и вас устраивает, что код уходит провайдеру. Своя модель выигрывает в приватности и в том, что не зависит от кредитов и лимитов.
- Команда из пяти человек. Copilot Business — 5 × $19 = $95 в месяц, около 7 900 ₽; Pro+ на каждого — около 16 300 ₽. Один сервер на RTX 4090 на 176 часов — 9 504 ₽ на всю команду.
Включайте сервер утром одной кнопкой и выключайте вечером: модель с диска загружается за несколько минут, и платить за ночные часы незачем. Веса и настройки держите в своём хранилище, чтобы каждое утро не качать их заново.
Ограничения, о которых стоит знать
Качество на больших задачах. На сложных изменениях во всём репозитории лучшие закрытые модели всё ещё сильнее. Открытые хорошо справляются с автодополнением, объяснением кода, тестами, рефакторингом в пределах нескольких файлов.
Скорость. Плотная 27B на одной карте отвечает медленнее облачного сервиса. Если задержка раздражает, переходите на MoE-модель.
Русский язык. Модели Qwen хорошо понимают запросы и комментарии на русском, подробнее читайте в статье Qwen, DeepSeek или Llama для русского языка.
Секреты в коде. Своя модель не отправляет код наружу, но плагины всё равно передают ей содержимое файлов, включая конфиги с паролями и ключами, если они лежат в проекте. Держите секреты в переменных окружения и менеджере секретов, а не в репозитории, и исключите файлы .env из контекста плагина в его настройках.
Обслуживание. Обновлять модели, следить за версиями vLLM и плагинов придётся самим. На это уходит час-два в месяц.
Как проверить, подойдёт ли модель команде
Прежде чем отказываться от привычного инструмента, проведите короткий пилот. Он займёт неделю и обойдётся в стоимость 20–40 часов аренды.
- Выберите два-три разработчика с разными задачами: бэкенд, фронтенд, скрипты и инфраструктура. Ассистент, который хорош в Python, может слабее работать с вашим фреймворком на другом языке.
- Составьте список типовых задач. Написать тест к функции, объяснить чужой модуль, переписать запрос к базе, найти ошибку по стектрейсу, добавить параметр в API. 10–15 задач хватит.
- Сравните с текущим инструментом. Каждую задачу прогоняйте в обоих вариантах. Оценивайте не красоту ответа, а сколько правок понадобилось, чтобы код заработал.
- Попробуйте две модели. Например, плотную Qwen3.6 27B и MoE 35B-A3B. Разработчики часто выбирают более быструю, даже если она чуть слабее на сложных задачах: ожидание ответа раздражает сильнее мелких ошибок.
- Проверьте агентный режим отдельно. Он требует больше контекста и стабильного вызова инструментов. Если агент на ваших задачах часто ошибается в формате вызовов, обновите vLLM и проверьте шаблон чата модели: чаще всего проблема там.
- Посчитайте часы. Посмотрите, сколько реально нужен сервер в день. Если только 3–4 часа активной работы, можно включать его по требованию.
По итогам пилота у вас будут не впечатления, а список задач, где своя модель справляется, и тех, где нужен человек или другой инструмент.
Свой код-ассистент выглядит так: Qwen3.6 27B или 35B-A3B на одной карте на 24–32 ГБ, vLLM с OpenAI-совместимым API, SSH-туннель и плагин Continue или Cline. Код не уходит к стороннему провайдеру, оплата не требует зарубежной карты, а один сервер обслуживает небольшую команду за 9 504 ₽ в месяц при работе в рабочее время.
Запустите модель на аренде RTX 4090 и подключите к ней свой редактор за полчаса.