Flowwow: локальный RAG-бот по базе знаний в 5,5 раза дешевле коробочных решений

За годы работы во Flowwow накопилось более 10 000 единиц продуктовой, технической и процессной документации. Формально она была доступна и упорядочена, но быстро найти нужное было сложно: сотрудники тратили время на поиск или отвлекали коллег, а те регулярно отвечали на одни и те же вопросы. Задача совпала с переездом компании из Slack в корпоративный мессенджер «Пачка». Компании нужен был бот, который отвечает по документации прямо в мессенджере. Коробочные LLM-продукты оказались дорогими и ограничивали число документов, облачное размещение открытых моделей не окупалось при ожидаемой нагрузке и добавляло рисков для корпоративных данных.

Команда ИТ-инфраструктуры и автоматизации собрала собственное решение на двух инстансах self-hosted-платформы n8n: основной работает в облаке компании, локальный — на сервере в офисе внутри корпоративного контура и выполняет ресурсоёмкие операции. В «Пачке» работают два бота. Бот для поиска по внутренней документации использует модель Qwen3 VL 30B Instruct: пользователь выбирает раздел документации, бот ищет ближайшие по векторам фрагменты и формирует ответ. Второй бот служит общим GPT-ассистентом с выбором модели (по умолчанию gpt-oss:20b, также Qwen3 Coder 30B и Qwen3 VL 30B Instruct). Вся документация хранится на локальном сервере.

Полностью собственная разработка, по оценке компании, заняла бы от 6 до 9 месяцев; переход на n8n сократил срок до 2,5 месяца. Сервер собран на потребительских комплектующих (Ryzen 9950x, RTX 5090 32GB, 128 ГБ ОЗУ). После первого нагрузочного тестирования команда перевела обработку запросов на очередь FIFO и асинхронный обмен между облачным и локальным n8n. Кнопка «Сообщить об ошибке» отправляет вопрос, ответ модели и комментарий в отдельный канал: так отслеживают качество ответов и устаревшие инструкции. По данным статьи в мае 2026 года, локальный RAG обходится в 5,5 раза дешевле коробочных решений, а число обращений к боту растёт.