Авито: трансформерная персонализация рекомендаций, +2,3% целевых действий

Авито показывает покупателям рекомендации объявлений, чтобы увеличить вероятность сделки. Прежняя схема работала в три шага: кандидатогенерация, ранжирование и формирование выдачи с бизнес-логикой. Одним из основных кандидатогенераторов была нейросетевая модель user2vec, которая строила профиль пользователя как взвешенную сумму эмбеддингов просмотренных объявлений. Такая линейная модель ограничивала выразительность, не учитывала порядок действий и поисковые запросы и хуже подбирала сопутствующие товары: при интересе к велосипедам предлагала в основном другие велосипеды. Команда персонализации поставила задачу получать эмбеддинги пользователей и кандидатов в реальном времени с учётом этих факторов.

Команда Авито построила двухбашенную модель. Одна башня создаёт эмбеддинги объявлений и складывает их в кэш, вторая на архитектуре трансформера создаёт эмбеддинг пользователя из последовательности его действий и поисковых запросов. Релевантность объявления определяется скалярным произведением двух эмбеддингов. Модель используется в двух сценариях: кандидатогенерация через ANN-индекс Sphinx и дополнительный признак для рекомендательного ранкера. Авито обучило две модели: мультикатегорийную для ранжирования и модель, обученную на одной категории, для кандидатогенерации.

Обучающий датасет за два месяца составил порядка 10 млрд сэмплов. Обучение сначала шло на четырёх видеокартах с батчем около 30 000 сэмплов, затем на сервере с восемью GPU с батчем около 130 000. Препроцессинг и инференс реализованы на фреймворке Aqueduct: препроцессинг на CPU, инференс на одной видеокарте на сервер, эмбеддинги объявлений хранятся в Redis-кэше. Мультикатегорийная модель в роли признака ранкера дала +2,3% целевых действий покупателей на главной странице, и по SHAP-анализу эта фича стала первой по значимости. Модель категории «Личные вещи» в роли кандидатогенератора дала +1,1% на главной странице и +8,1% в самой категории. Статья опубликована 27 февраля 2026 года.