Установка Mistral на сервер и в Docker
Установка Mistral у себя начинается с выбора модели: Ministral 3 на 3, 8 или 14 млрд параметров запускается через Ollama на ПК, а Mistral Small 4 и Medium 3.5 требуют сервера с видеокартой и движка vLLM. Почти все открытые модели Mistral AI выходят под Apache 2.0, контекст у новых версий 256 тыс. токенов.
Ответ за 30 секунд
Для ПК и небольшого сервера берите Ministral 3 8B: в Ollama файл 6 ГБ. Для русскоязычного сервиса смотрите Mistral Small 4, но память ей нужна под все 119 млрд параметров, это уже карта на 80 ГБ.
Ministral 3 14B в Ollama весит 9,1 ГБ, Medium 3.5 уже 80 ГБ: карту подбирают под модель, оплата почасовая.
Сколько памяти нужно моделям Mistral256Kтокенов контекста у Ministral 3 и Small 4
6,5 млрдактивных параметров у Small 4
Apache 2.0лицензия Ministral 3 и Small 4
01 · 1 мин
Какие модели Mistral можно скачать и запустить у себя#
Mistral AI публикует веса на Hugging Face, а в каталоге Ollama лежат готовые сжатые сборки. Старая Mistral 7B (версия 0.3) всё ещё доступна командой ollama run mistral, но у неё контекст 32 тыс. токенов и нет картинок на входе, поэтому для новых проектов берут Ministral 3.
| Модель | Параметры | Лицензия | Русский в списке языков |
|---|---|---|---|
| Ministral 3 | 3B, 8B, 14B | Apache 2.0 | нет |
| Mistral Small 4 | 119 млрд, активны 6,5 млрд (MoE) | Apache 2.0 | да |
| Mistral Medium 3.5 | 128 млрд, плотная | модифицированная MIT | да |
| Mistral Large 3 | 675 млрд, активны 41 млрд (MoE) | Apache 2.0 | нет |
Все модели из таблицы принимают изображения вместе с текстом. Ministral 3, Small 4 и Medium 3.5 по карточкам умеют вызывать функции и отвечать в JSON, то есть годятся для агентов. Ministral 3 выпущена в вариантах Instruct, Reasoning и Base.
Инструмент · 1 мин
Сколько памяти нужно моделям Mistral#
По карточке Ministral 3 8B в формате FP8 помещается в 12 ГБ видеопамяти, а в сжатии Q4 файл Ollama весит 6 ГБ. Ministral 3 3B занимает 3 ГБ, 14B около 9,1 ГБ. Mistral Medium 3.5 в Ollama весит 80 ГБ.
Mistral Small 4 устроена как смесь экспертов: из 128 экспертов на токен работают 4, поэтому скорость близка к модели на 6,5 млрд. Памяти же нужно на все 119 млрд. Отличия процессора от видеокарты разобраны в разделе сервер под ИИ.
Сколько памяти нужно Mistral
Выберите модель Mistral AI, сжатие и контекст; у Small 4 считается полный размер
03 · 1 мин
Mistral в Docker через Ollama#
- Запустите контейнер Ollama:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama, для карты NVIDIA добавьте--gpus=all. - Скачайте модель внутри него:
docker exec -it ollama ollama run ministral-3:8b. Для старой 7B тегmistral, для Medium 3.5 тегmistral-medium-3.5. - Подключите программы к
http://сервер:11434/v1как к OpenAI-совместимому API и закройте порт от чужих адресов.
Этот путь удобен на одном сервере для чата и небольшого бота. Когда запросов становится много, модель переносят на vLLM.
04 · 1 мин
Mistral на сервере с vLLM: команда запуска#
Карточки Mistral AI дают готовую команду для vLLM. Флаги с mistral в названии говорят движку читать токенизатор и веса в родном формате Mistral:
vllm serve mistralai/Ministral-3-8B-Instruct-2512 \
--tokenizer_mode mistral --config_format mistral --load_format mistralВ Docker ту же модель передают контейнеру vllm/vllm-openai после имени образа. Для Medium 3.5 Mistral AI выложила отдельную EAGLE-модель: это маленький «черновик», который предсказывает несколько токенов вперёд и ускоряет ответ в vLLM и SGLang.
05 · 1 мин
Лицензии Mistral и запасной вариант по API#
Apache 2.0 у Ministral 3, Small 4 и Large 3 разрешает коммерческое использование и изменения без отчислений. Medium 3.5 вышла под модифицированной MIT: для бизнеса она тоже открыта, но в лицензии есть исключения для компаний с большой выручкой. Прочитайте файл LICENSE в репозитории модели, прежде чем строить на ней платный сервис.
Если карты на 80 ГБ под Small 4 нет, модель того же класса проще получить по API. AI Gateway Таймвеб Клауд работает по протоколу OpenAI и берёт оплату в рублях за токены, а свой GPU-сервер там стартует с аванса от 5 000 ₽ (на 14 октября 2026).
06 · 1 мин
Вопросы об установке Mistral#
Как запустить Mistral 7B в Docker?
Через контейнер ollama/ollama: docker exec -it ollama ollama run mistral. Файл весит 4,4 ГБ, контекст 32 тыс. токенов. Для новых задач посмотрите Ministral 3 8B того же класса.
Какие модели Mistral официально поддерживают русский?
Русский заявлен в списке языков Mistral Small 4 и Medium 3.5. У Ministral 3 и Large 3 его в списке нет, хотя по-русски они отвечают; проверьте на своих текстах.
Хватит ли VPS без видеокарты для Mistral?
Ministral 3 3B и 8B работают на процессоре при 8 ГБ памяти, но медленно. Для бота с несколькими пользователями берите сервер с картой хотя бы на 16 ГБ.
Почему этому можно верить
Как мы проверяли
Источники цифр на этой странице: VPS и VDS серверы Таймвеб Клауд, timeweb.cloud/services/vds-vps, проверено 14 октября 2026; AI Gateway Таймвеб Клауд, timeweb.cloud/services/ai-gateway, проверено 14 октября 2026; Серверы с GPU Таймвеб Клауд, timeweb.cloud/services/gpu, проверено 14 октября 2026; Каталог моделей Ollama: размеры файлов и контекст, ollama.com/library, проверено 14 октября 2026; Модельная карточка Ministral 3 8B: память, vLLM, Apache 2.0, huggingface.co/mistralai/Ministral-3-8B-Instruct-2512, проверено 14 октября 2026; Модельная карточка Mistral Small 4 119B, huggingface.co/mistralai/Mistral-Small-4-119B-2603, проверено 14 октября 2026; Модельная карточка Mistral Medium 3.5 128B и модифицированная MIT, huggingface.co/mistralai/Mistral-Medium-3.5-128B, проверено 14 октября 2026; Модельная карточка Mistral Large 3 675B, huggingface.co/mistralai/Mistral-Large-3-675B-Instruct-2512, проверено 14 октября 2026; Ollama: модели mistral, ministral-3 и mistral-medium-3.5, ollama.com/library/ministral-3, проверено 14 октября 2026.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III