Эксмо-АСТ: каскад LLM-агентов проверяет книги на запрещённый законом контент

С 2022 года российские издатели проверяют каталог на соответствие расширяющимся законодательным запретам: на пропаганду ЛГБТ, чайлдфри, а с 1 марта 2026 года — наркотиков. Закон касается всех книг, изданных после 1 августа 1990 года. По данным холдинга «Эксмо-АСТ», проверка потребовалась 40 тыс. изданий. В 2023 году «Эксмо» направляло спорные книги на внешнюю экспертизу стоимостью от 15 тыс. рублей за разметку фрагментов до 60 тыс. рублей за официальное заключение; позднее экспертизу перевели в основном в юридические отделы издательств.

Холдинг использует внутреннюю программу, написанную ИТ-специалистами специально под эту задачу; в неё встроены большие языковые модели Qwen и Grok. Промпты для поиска нарушений составляет ИТ-отдел. По словам пресс-службы «Эксмо», внутри системы работает каскад из более чем 17 субагентов-нейросетей: одни специализируются на сексуальном контенте, другие — на наркотиках, третьи — на экстремизме; отдельные агенты выявляют мат. Редактор получает отчёт с номерами страниц и точными цитатами, для иностранных книг — с автоматическим переводом. Окончательных решений система не принимает: она отсеивает очевидно безопасный контент и подсвечивает фрагменты с риском.

Система запущена в июне 2025 года и менее чем за год пережила несколько крупных обновлений. 5 августа 2025 года гендиректор «Эксмо» Евгений Капьев подписал регламент сплошной проверки всех вышедших и выходящих книг через ИИ. Проверка повторяется трижды: при первичной оценке рукописи, перед вёрсткой и перед отправкой в типографию. Регламент задаёт семь уровней риска и решение для каждого — вёрстка, маркировка, внешняя экспертиза или отказ от выпуска. Редактор обязан просмотреть отмеченные фрагменты; спорные случаи решает комиссия. Отчёты ИИ хранятся в базе. После вступления закона о наркотиках модели перенастроили на более строгий режим.