Gemma в Docker и на своём сервере
Gemma в Docker проще всего запустить в контейнере ollama/ollama: команда ollama run gemma4:12b скачивает модель на 8 ГБ, и через минуту у вас OpenAI-совместимый API. Gemma 4 от Google выходит в пяти размерах, от E2B для слабых машин до 31B для карты на 24 ГБ, и распространяется под Apache 2.0.
Ответ за 30 секунд
Для сервера без карты берите Gemma 4 E4B, для карты на 12-16 ГБ 12B, для 24 ГБ 26B A4B или 31B. Запускайте в Docker через Ollama, а для потока запросов переходите на vLLM.
В Ollama модель весит около 20 ГБ и помещается на карту с 24 ГБ, например L4 или RTX 4090.
Сколько видеопамяти нужно Gemma 4256Kтокенов контекста у 12B, 26B и 31B
140+языков у Gemma 4
Apache 2.0лицензия Gemma 4
01 · 1 мин
Какие размеры есть у Gemma 4 и что значат E2B и A4B#
Gemma это открытые модели Google DeepMind. В отличие от Gemini, которую Google отдаёт только через свои сервисы, веса Gemma можно скачать и запустить у себя. Все модели Gemma 4 принимают текст и картинки, малые и 12B ещё и звук.
| Модель | Параметры | Контекст | Файл в Ollama |
|---|---|---|---|
| E2B | 2,3 млрд рабочих, 5,1 с эмбеддингами | 128K | 4,6-7,5 ГБ |
| E4B | 4,5 млрд рабочих, 8 с эмбеддингами | 128K | 6,6-9,5 ГБ |
| 12B | 11,95 млрд | 256K | 7,7-8 ГБ |
| 26B A4B | 25,2 млрд, активны 3,8 млрд (MoE) | 256K | 16-19 ГБ |
| 31B | 30,7 млрд, плотная | 256K | 19-20 ГБ |
Буква E означает «эффективные» параметры: часть веса малых моделей приходится на таблицы эмбеддингов, которые почти не нагружают вычисления. A4B у средней модели значит, что на каждый токен работают около 4 млрд параметров из 25.
Инструмент · 1 мин
Сколько видеопамяти нужно Gemma 4#
Для 26B A4B действует общее правило смеси экспертов: отвечает она почти со скоростью 4-миллиардной модели, а память занимает как 25-миллиардная. Google выкладывает для Gemma 4 официальные сжатые версии QAT в формате GGUF (Q4_0): модель дообучали под сжатие, а не сжимали готовые веса, и такие файлы сразу подходят для llama.cpp.
Если карта не нужна вовсе, E2B и E4B работают на процессоре. Когда процессора хватает, а когда нет, разобрано в разделе сервер под ИИ.
Сколько памяти нужно Gemma 4
Выберите размер Gemma 4, сжатие и контекст; у малых моделей считаются параметры вместе с эмбеддингами
03 · 1 мин
Gemma 4 в Docker: Ollama, compose и Model Runner#
Самый короткий путь: контейнер Ollama с томом для моделей.
docker run -d --gpus=all -v ollama:/root/.ollama -p 127.0.0.1:11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama pull gemma4:12bВ docker compose это один сервис с образом ollama/ollama, томом /root/.ollama и резервированием карты NVIDIA:
services:
ollama:
image: ollama/ollama
ports: ["127.0.0.1:11434:11434"]
volumes: [ollama:/root/.ollama]
deploy:
resources:
reservations:
devices: [{ driver: nvidia, count: all, capabilities: [gpu] }]
volumes:
ollama:Без карты блок deploy убирают. Если у вас включён Docker Model Runner, Gemma 4 лежит в каталоге Docker Hub как ai/gemma4 и запускается командой docker model run ai/gemma4.
04 · 1 мин
Gemma 4 на сервере с vLLM для многих пользователей#
Когда к модели идут десятки запросов одновременно, её отдают через vLLM в контейнере vllm/vllm-openai: он склеивает запросы в пакеты, выжимает из карты больше ответов в секунду и держит OpenAI-совместимый API на порту 8000. Модель указывают после имени образа, например --model google/gemma-4-12B-it.
Контекст 256K не бесплатный
Окно в 256 тыс. токенов требует большого кэша. Если сервер падает при запуске, ограничьте контекст флагом --max-model-len до того, что реально нужно задаче.
05 · 1 мин
Лицензия Gemma 4 и доступ по API#
Gemma 4 вышла под Apache 2.0: модель можно встраивать в коммерческий продукт, дообучать и распространять производные с указанием лицензии. Для русскоязычного бота важно, что многоязычность у Gemma 4 заявлена прямо: больше 140 языков.
Если своя карта не окупается, аналогичные модели берут по API. AI Gateway Таймвеб Клауд работает по протоколу OpenAI с оплатой в рублях за токены; сервер с картой там стартует с аванса от 5 000 ₽ на 14 октября 2026.
06 · 1 мин
Вопросы о Gemma в Docker#
Как установить Gemma на свой сервер без видеокарты?
Через Ollama: ollama run gemma4:e4b. Файл весит 6,6-9,5 ГБ, модель работает на процессоре при 16 ГБ памяти, но отвечает медленнее, чем на карте.
Можно ли поставить Gemini на свой сервер так же, как Gemma?
Нет. Gemini доступна только через сервисы и API Google, её веса не публикуются. На свой сервер ставят открытую Gemma или консольный агент Gemini CLI, который ходит в API.
Какой образ Docker нужен для Gemma 4 с GPU?
ollama/ollama с флагом --gpus=all или vllm/vllm-openai для многих пользователей. На сервере должен стоять драйвер NVIDIA и NVIDIA Container Toolkit.
Почему этому можно верить
Как мы проверяли
Источники цифр на этой странице: VPS и VDS серверы Таймвеб Клауд, timeweb.cloud/services/vds-vps, проверено 14 октября 2026; AI Gateway Таймвеб Клауд, timeweb.cloud/services/ai-gateway, проверено 14 октября 2026; Серверы с GPU Таймвеб Клауд, timeweb.cloud/services/gpu, проверено 14 октября 2026; Каталог моделей Ollama: размеры файлов и контекст, ollama.com/library, проверено 14 октября 2026; Модельная карточка Gemma 4 31B: размеры семейства, контекст, Apache 2.0, huggingface.co/google/gemma-4-31B-it, проверено 14 октября 2026; Ollama: модель gemma4, размеры файлов, ollama.com/library/gemma4, проверено 14 октября 2026; Docker Hub: модель ai/gemma4 для Docker Model Runner, hub.docker.com/r/ai/gemma4, проверено 15 октября 2026.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III