Meta: система Andromeda отбирает рекламу, полнота выборки выросла на 6%

Рекламная система Meta в Instagram и Facebook выбирает объявления в несколько этапов. Первый этап, отбор, сокращает десятки миллионов кандидатов до нескольких тысяч, и на нём действуют жёсткие ограничения по задержке. Отбор обрабатывает на три порядка больше объявлений, чем следующие этапы, а набор Advantage+ и генеративные ИИ-инструменты для создания креативов увеличивают число объявлений ещё сильнее. Раньше отбор опирался на изолированные этапы моделей и множество правил-эвристик, поэтому персонализация была ограниченной, а сквозная оптимизация затруднялась. Задача состояла в том, чтобы повысить персонализацию отбора и сохранить окупаемость инфраструктуры.

Andromeda — собственная система машинного обучения Meta для отбора объявлений. Она построена на глубокой нейронной сети, разработанной под суперчип NVIDIA Grace Hopper и ускорители Meta MTIA. Объявления организованы в иерархический индекс из нескольких уровней, который обучается вместе с моделью и сокращает число шагов инференса. Модель подстраивает сложность и число шагов под доступные ресурсы в реальном времени и направляет более сложные модели на ценные сегменты рекламы. Предобработка признаков выполняется на GPU, а вычисленные заранее эмбеддинги объявлений хранятся в локальной памяти суперчипа. Система сокращает число компонентов и правил.

Meta описала систему в инженерном блоге 2 декабря 2024 года и сообщила о развёртывании в приложениях Instagram и Facebook. Компания приводит рост полноты отбора на 6% и рост качества рекламы на 8% в отдельных сегментах. Эластичность модели вместе с иерархической сетью повысила эффективность инференса в 10 раз, а работа с GPU ускорила сквозную пропускную способность более чем в 3 раза. Дальше Meta планирует перевести архитектуру на авторегрессионную функцию потерь, интегрировать Andromeda с MTIA и новыми поколениями коммерческих GPU и, по собственной оценке, получить ещё в 1000 раз больше сложности модели.