Звук: рекомендации аудиокниг на LLM, рост WAU блока «Похожие» на 33,2%

В HiFi-стриминге «Звук» исторически преобладал музыкальный контент, затем к нему добавились аудиокниги. Перед командой встала задача рассказать пользователям о новом контенте понятно и удобно, и компания создала для аудиокниг отдельную рекомендательную систему. Нужно было решить две задачи: подбирать книги и авторов, похожих на другие книги и авторов, по их внутреннему содержанию, а также подбирать релевантные книги и авторов для конкретного пользователя. Сложность первой задачи в том, что книги большие и не всегда имеют краткое описание. Для части книг нет и текста — есть только аудиозапись.

Для похожих книг «Звук» построил каскад моделей. Если есть краткое описание, его превращает в вектор собственная SFT-модель на базе e5-mistral-7b-instruct. Если есть только текст, саммари формирует открытая LLM Qwen2.5-7B-Instruct-AWQ: контекст около 128 тысяч токенов в 70% случаев вмещает книгу целиком. Если нет и текста, его извлекает собственная разработка speech2text на базе Whisper 3 с детектором речи и обработкой ошибок. Векторы хранятся в базе Qdrant, похожие книги отбираются по косинусной мере близости. Персональные рекомендации строятся ALS-разложением матрицы взаимодействий пользователей с книгами в едином векторном пространстве.

Работу разделили между тремя ML-командами «Звука»: ML Recsys, ML Research и ML Audio. Сервис написан на Python; модели исполняются батчами на внутренней ML-платформе с пайплайном в AirFlow на GPU, очередью расчётов в Clear ML и разбиением GPU-MIG, данные хранятся в hadoop и S3 и обрабатываются в presto и pyspark. Матрица взаимодействий периодически обновляется с фильтрацией аномалий. Качество саммари проверяли музыкальные и литературные эксперты на случайной выборке: доля неадекватных саммари составила менее 5%. Через месяц после запуска WAU блока «Похожие» вырос на 33,2%, блока «Для Вас» — на 11,6%, активные сессии с персональными рекомендациями — на 25,7%.