Установка Qwen локально: какую модель взять и как запустить
Установка Qwen локально проще всего через Ollama: команда ollama run qwen3.5:9b скачивает модель на 6,6 ГБ и запускает чат. Для сервера с видеокартой подходит Qwen3.8 27B, для слабого ПК младшие Qwen3.5 на 0,8-4 млрд параметров; открытые версии выходят под Apache 2.0.
Ответ за 30 секунд
Для ПК с картой 8 ГБ берите Qwen3.5 9B, для карты на 24 ГБ Qwen3.8 27B или Qwen3.6 35B-A3B. Длинный контекст съедает память быстрее весов, поэтому на сервере ограничивайте его явно.
В сжатии Q4 модель занимает около 18 ГБ и помещается на карту с 24 ГБ, сервер с GPU оплачивается почасово.
Сколько памяти нужно Qwen на ПК и сервере262 144токенов контекста без расширения
0,8-397млрд параметров в линейке Qwen3.5
Apache 2.0лицензия Qwen3.8 27B
01 · 1 мин
Какие модели Qwen открыты и чем они отличаются#
Alibaba выпускает Qwen сериями, и у каждой серии несколько размеров. Буквы A с числом в названии означают смесь экспертов (MoE): 35B-A3B хранит 35 млрд параметров, а на каждый токен задействует 3 млрд. Все модели ниже принимают изображения вместе с текстом, кроме самой большой Qwen3.8.
| Серия | Размеры | Лицензия |
|---|---|---|
| Qwen3.5 (февраль 2026) | 0,8B, 2B, 4B, 9B, 27B, 35B-A3B, 122B-A10B, 397B-A17B | Apache 2.0 |
| Qwen3.6 (апрель 2026) | 27B, 35B-A3B | Apache 2.0 |
| Qwen3.8 (август 2026) | 27B | Apache 2.0 |
| Qwen3.8-Flash-Next | 125 млрд, активны 6 млрд | Qwen Community 1.0 |
| Qwen3.8-2.4T-A95B | 2,4 трлн, активны 95 млрд | отдельная лицензия Qwen3.8-Max |
У всех серий родной контекст 262 144 токена с расширением до миллиона. Для генерации кода у Alibaba есть отдельный агент, о нём страница Qwen Code.
Инструмент · 1 мин
Сколько памяти нужно Qwen на ПК и сервере#
Ориентир дают файлы из каталога Ollama в сжатии Q4: Qwen3.5 0,8B весит 1,2 ГБ, 4B около 3,3 ГБ, 9B 6,6 ГБ, Qwen3.8 27B 18 ГБ, Qwen3.6 35B-A3B 23 ГБ, Qwen3.5 122B-A10B 81 ГБ. К весам добавляется кэш контекста, и на длинных документах он растёт сильнее, чем кажется по размеру файла.
MoE-модель Qwen3.6 35B-A3B отвечает со скоростью небольшой модели, но память просит за все 35 млрд параметров. Разница между запуском на процессоре и на карте разобрана в разделе сервер под ИИ.
Сколько памяти нужно Qwen
Выберите модель Qwen, сжатие и контекст; для MoE берётся полный размер
03 · 1 мин
Как развернуть Qwen локально через Ollama#
- Поставьте Ollama установщиком для Windows и macOS или скриптом на Linux.
- Выберите размер под память:
ollama run qwen3.5:4bдля ноутбука без карты,ollama run qwen3.5:9bдля карты на 8 ГБ,ollama run qwen3.8для 24 ГБ (тег по умолчанию скачивает 27B). - Проверьте ответы на русском на своих задачах: младшие модели заметно чаще путают падежи и факты.
У Qwen3.8 режим рассуждений включён по умолчанию: модель сначала думает, потом отвечает. Карточка модели разрешает выключать его в отдельном запросе, это ускоряет короткие ответы для бота.
04 · 1 мин
Qwen на сервере с vLLM: контекст и параллельные запросы#
Когда к модели обращаются несколько человек или бот с потоком клиентов, Ollama меняют на vLLM: он обрабатывает запросы пачками и держит OpenAI-совместимый API. Карточка Qwen3.6 35B-A3B прямо рекомендует для рабочей нагрузки SGLang, KTransformers или vLLM.
vllm serve Qwen/Qwen3.8-27B --max-model-len 131072 --api-key ваш-ключКонтекст по умолчанию 262 144 токена
vLLM резервирует под окно кэш, и на одной карте запуск может упасть с нехваткой памяти. Карточка Qwen3.6 разрешает уменьшить окно, но не ниже 128 тыс. токенов: на коротком контексте модель хуже рассуждает. Если не хватает и на это, нужна карта крупнее.
05 · 1 мин
Qwen по API, если своя карта не окупается#
Самые большие Qwen (397B-A17B и 2,4T-A95B) у себя запускают единицы. Если нужна их точность, проще платить за токены. Платформа AI-агентов Таймвеб Клауд на 14 октября 2026 включает модели Qwen и DeepSeek, а AI Gateway даёт OpenAI-совместимый доступ с оплатой в рублях. Для своей карты Таймвеб Клауд просит аванс от 5 000 ₽, цены карт сообщает по запросу.
06 · 1 мин
Вопросы о локальной установке Qwen#
Как развернуть Qwen 3.8 локально на одной видеокарте?
Qwen3.8 27B в Ollama весит 18 ГБ и помещается на карту с 24 ГБ: ollama run qwen3.8. Для vLLM в полной точности файл весит 56 ГБ, это уже карта на 80 ГБ, а контекст задают флагом --max-model-len.
Какой Qwen запустится на ноутбуке без видеокарты?
Qwen3.5 на 0,8-4 млрд параметров: файлы весят 1,2-3,3 ГБ и работают на процессоре при 8 ГБ оперативной памяти. Отвечают они медленнее и проще, чем 9B и старше.
Можно ли использовать Qwen в коммерческом продукте?
Модели под Apache 2.0 (Qwen3.5, Qwen3.6 и Qwen3.8 27B) можно. У Qwen3.8-Flash-Next и 2,4T-A95B свои лицензии, их условия читайте до запуска в продакшен.
Почему этому можно верить
Как мы проверяли
Источники цифр на этой странице: VPS и VDS серверы Таймвеб Клауд, timeweb.cloud/services/vds-vps, проверено 14 октября 2026; AI Gateway Таймвеб Клауд, timeweb.cloud/services/ai-gateway, проверено 14 октября 2026; Серверы с GPU Таймвеб Клауд, timeweb.cloud/services/gpu, проверено 14 октября 2026; Каталог моделей Ollama: размеры файлов и контекст, ollama.com/library, проверено 14 октября 2026; Модельная карточка Qwen3.8-27B: параметры, контекст, Apache 2.0, huggingface.co/Qwen/Qwen3.8-27B, проверено 14 октября 2026; Модельная карточка Qwen3.8-Flash-Next: MoE и лицензия Qwen Community, huggingface.co/Qwen/Qwen3.8-Flash-Next, проверено 14 октября 2026; Модельная карточка Qwen3.8-2.4T-A95B, huggingface.co/Qwen/Qwen3.8-2.4T-A95B, проверено 14 октября 2026; Модельная карточка Qwen3.6-35B-A3B: движки и длина контекста, huggingface.co/Qwen/Qwen3.6-35B-A3B, проверено 14 октября 2026; Модельная карточка Qwen3.5-397B-A17B: линейка Qwen3.5, huggingface.co/Qwen/Qwen3.5-397B-A17B, проверено 14 октября 2026; Ollama: модели qwen3.5, qwen3.6 и qwen3.8, ollama.com/library/qwen3.5, проверено 14 октября 2026.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III