Как развернуть RAG: от документов до ответов модели
Как развернуть RAG: включить базу знаний на готовой платформе, поставить приложение вроде AnythingLLM или собрать свою связку из векторной базы, модели эмбеддингов и языковой модели. Выбор зависит от объёма документов и требований к данным, а внутри всегда одни и те же шесть шагов, от разбивки текста до ответа со ссылкой на источник.
Ответ за 30 секунд
Если нужно быстро и без сервера, берите RAG на платформе AI-агентов. Свой RAG в Docker оправдан, когда документы нельзя выносить наружу. Качество решает разбивка документов и набор проверочных вопросов, а не выбор базы.
Платформа AI-агентов подключает ваши базы знаний к модели и даёт виджет для сайта; тестовый пакет токенов действует до 31 декабря 2026.
Три способа развернуть RAG: платформа, приложение или свой код6шагов от документа до ответа
4 байтана одно число вектора float32
31.12.2026тестовые токены AI-агентов
01 · 1 мин
Как работает RAG: шесть шагов от документа до ответа#
RAG (retrieval-augmented generation, генерация с поиском) даёт модели ваши документы прямо в запросе. Модель не переучивают: перед ответом система находит подходящие куски текста и подкладывает их в подсказку.
- Собрать документы: PDF, страницы базы знаний, выгрузки из CRM.
- Разбить на фрагменты по несколько абзацев, с небольшим перекрытием, чтобы мысль не обрывалась на границе.
- Посчитать эмбеддинги: модель превращает каждый фрагмент в вектор, набор чисел, похожий у близких по смыслу текстов.
- Сложить векторы в базу вместе с текстом и ссылкой на источник.
- Найти ближайшие фрагменты к вопросу пользователя: вопрос тоже превращается в вектор, база возвращает несколько самых похожих.
- Ответить: фрагменты и вопрос уходят в языковую модель с инструкцией отвечать только по ним и ссылаться на источник.
Инструмент · 1 мин
Три способа развернуть RAG: платформа, приложение или свой код#
| Путь | Что делаете вы | Кому подходит |
|---|---|---|
| Платформа AI-агентов Таймвеб Клауд | Загружаете базу знаний, выбираете модель, ставите виджет на сайт | Бот поддержки, ответы по регламентам |
| Готовое приложение на своём сервере | AnythingLLM, Open WebUI или LibreChat с загрузкой файлов | Команда, внутренние документы |
| Свой код | LangChain или LlamaIndex, векторная база, модель по API или в Ollama | Нестандартные источники, встраивание в продукт |
На платформе AI-агентов на 14 октября 2026 есть RAG по своим базам знаний, OpenAI-совместимый API и модели GPT, Claude, DeepSeek, Qwen и YandexGPT. Цену агента с базой знаний можно прикинуть ниже: для RAG выбирайте вариант входного текста «с базой знаний».
Сколько стоит RAG на готовой платформе
Запросы в день, объём найденного контекста и длина ответа: расчёт по ценам токенов
03 · 1 мин
RAG на своём сервере в Docker: минимальный набор#
Для своей связки нужны три компонента: модель эмбеддингов, векторная база и языковая модель. Всё запускается в Docker на одном сервере:
services:
ollama:
image: ollama/ollama
volumes: [ollama:/root/.ollama]
qdrant:
image: qdrant/qdrant
ports: ["127.0.0.1:6333:6333"]
volumes: [qdrant:/qdrant/storage]
volumes:
ollama:
qdrant:04 · 1 мин
Сколько места и памяти нужно RAG#
Объём векторов считается арифметикой: число фрагментов умножить на размерность и на 4 байта (одно число float32). 100 тыс. фрагментов при размерности 1024 дают около 410 МБ чистых векторов, индекс и служебные данные добавят сверху. Для базы знаний компании это немного: обычный VPS справится с хранением.
Основную память съедает языковая модель, если она стоит у вас, а не работает по API. Подбор конфигурации под модель: сервер под LLM.
05 · 1 мин
Почему RAG ошибается и как это проверить#
Составьте 30-50 реальных вопросов с правильными ответами и прогоняйте их после каждой правки. Если в документах есть персональные данные клиентов, учтите 152-ФЗ: где хранятся векторы и куда уходит текст фрагментов при запросе к модели.
- Не нашёл нужный фрагмент. Слишком крупная или мелкая разбивка, неподходящая для русского модель эмбеддингов. Помогают перекрытие фрагментов и повторное ранжирование найденного.
- Нашёл, но додумал. Модель смешивает документ со своими знаниями. Требуйте в инструкции ссылку на источник и ответ «не знаю», если в найденном ответа нет.
- Устаревшие данные. Документ поменялся, а векторы старые. Переиндексацию ставят в расписание.
06 · 1 мин
Вопросы о том, как развернуть RAG#
Можно ли сделать RAG полностью без интернета?
Да: модель эмбеддингов и языковая модель в Ollama, векторная база Qdrant, pgvector или Chroma на том же сервере. Для быстрых ответов понадобится видеокарта под языковую модель.
Какая векторная база нужна для RAG?
Для старта подойдёт любая. Qdrant удобен как отдельный сервис, pgvector если уже есть PostgreSQL, Chroma для прототипа на Python. Разница проявляется на миллионах векторов.
Чем RAG отличается от дообучения модели?
RAG подставляет документы в каждый запрос, и обновить знания можно, просто заменив файл. Дообучение меняет веса модели, стоит дороже и не даёт ссылок на источник.
Почему этому можно верить
Как мы проверяли
Источники цифр на этой странице: AI-агенты Таймвеб Клауд, timeweb.cloud/services/ai-agents, проверено 14 октября 2026; AI Gateway Таймвеб Клауд, timeweb.cloud/services/ai-gateway, проверено 14 октября 2026; AnythingLLM на GitHub: возможности, векторные базы, лицензия MIT, github.com/Mintplex-Labs/anything-llm, проверено 14 октября 2026; Ollama: модели эмбеддингов qwen3-embedding и embeddinggemma, ollama.com/library/qwen3-embedding, проверено 14 октября 2026; Qdrant на GitHub: запуск в Docker, клиенты, лицензия Apache 2.0, github.com/qdrant/qdrant, проверено 15 октября 2026; pgvector на GitHub: установка, Docker-образ, типы и индексы, github.com/pgvector/pgvector, проверено 15 октября 2026; Chroma на GitHub: установка клиентов, режим сервера, лицензия Apache 2.0, github.com/chroma-core/chroma, проверено 15 октября 2026.
Соберите ИИ-агента на готовой платформе
GPT, Claude, Gemini, DeepSeek и YandexGPT в одном кабинете, оплата рублями за токены.
- База знаний из ваших файлов (RAG)
- Чат-бот на сайт одним скриптом
- OpenAI-совместимый API
- Доступность 99,98% по SLA