Цифра: RAG-ассистент по базе знаний, ответ за время до 30 секунд

В «Цифре» знания о программных продуктах разбросаны по официальной документации, Confluence, переписке и тикетам технической поддержки. Поиск по ключевым словам не справляется с синонимами, сокращениями и контекстом, поэтому сотрудники часто спрашивают коллег, а новички учатся по цепочке «спроси вот этого человека». Компания поставила цель сделать доступ к экспертизе воспроизводимым и независимым от конкретных людей. Условия: ответ быстрее 2 минут, проверяемость по ссылкам на источники, безопасное поведение, приём обратной связи, хранение данных внутри корпоративного контура и работа для всей компании.

Ассистент построен на архитектуре RAG. Запрос проходит валидацию (приветствия, мусор и попытки подмены инструкций отсекаются), затем векторный поиск по локальной базе знаний находит релевантные фрагменты, и только они передаются облачной модели deepseek-v3.2 для генерации ответа. Документы нарезаются на фрагменты по 1000 символов с перекрытием 200, векторизуются моделью deepvk/USER-bge-m3. Модели велено не додумывать и честно сообщать, если информации нет. Пользователь получает ответ с кликабельными ссылками на документы и страницы, историю диалогов и может выбрать версию продукта.

Сначала команда пробовала дообучать небольшие локальные модели на базе знаний, но отказалась из-за трудоёмкой подготовки датасета и невозможности проверить источник ответа. Локальные модели генерации (Qwen2.5-7B, Mistral-7B-v0.3, Phi4-mini) давали слабые ответы, поэтому выбрана облачная модель. Перед загрузкой документы очищаются от чувствительных данных: правила и локальная модель Qwen3-8B находят фрагменты, инженер проверяет результат, затем маскировка выполняется программно. Решение прошло проверки информационной безопасности. В марте 2026 года идёт альфа-тестирование и настройка интеграции с корпоративной ADFS; компания решила масштабировать ассистента на всех сотрудников. Опыт сбора знаний потребовал обойти руководителей подразделений и ключевых экспертов.