Авито: LLM в модерации берёт около 70% спорных объявлений, precision около 94%

Авито проверяет более 20 млн объявлений в сутки, и более 95% проверок уже автоматизировано. Оставшийся поток направляется на дополнительную проверку: по словам компании, это сотни тысяч объявлений в день, с ними работают несколько сотен модераторов. Ручная модерация плохо масштабируется: регламенты большие и сложные, до 200 страниц, а новому модератору нужно около полугода, чтобы выйти на продуктивное плато по качеству. Цель проекта — перевести эти проверки на LLM, сохранив качество ручной модерации.

Классические ML-модели просматривают большой поток и проставляют объявлению идентификаторы предполагаемых нарушений. По идентификатору LLM-модуль подбирает промпт, собранный на основе регламента, и модель по заголовку, описанию и фото отвечает True или False. По умолчанию используется Qwen3.5-35B-A3B без дообучения; для нарушений, где качество проседает, дообучается компактная модель Avision-8B (F1 76% на проверках Авито). Инференс идёт на vLLM с ответом в один токен. Перед моделью стоит контур GuardRails против prompt injection и jailbreak. Если вход подозрителен или модель не уверена, решение принимает модератор.

Модели работают в закрытом контуре: часть проверок нельзя отправлять во внешние LLM из-за персональных данных и юридических рисков. Промпты прошли путь от регламента «как есть» через ручное сжатие и переписывание LLM к алгоритмическому автоподбору (адаптированный GEPA) и агентам с набором MCP-серверов; по данным статьи, при переходе от сырого регламента к агентам F1 вырос на 14%. Для управления промптами, экспериментами, автоподбором и дообучением написана собственная админ-панель, доступная сотрудникам без технической подготовки. На момент публикации 22 октября 2026 года LLM автоматически обрабатывает около 70% потока дополнительной проверки с precision около 94%; остальные 30% — наиболее сложные случаи, их автоматизация — следующий этап.