Купер: нейросеть исправляет опечатки в поиске, на 17% больше качественных исправлений

В «Купере» (ранее СберМаркет) семь из десяти товаров добавляются в корзину из поиска. Поисковые запросы часто содержат ошибки: пользователь не знает, как пишется слово, задевает соседние клавиши или забывает сменить раскладку. Учесть все варианты опечаток в описании карточки товара невозможно, поэтому без автоисправления запрос с опечаткой чаще всего не даёт выдачи, и пользователю приходится вводить его заново. Запросы обрабатывает движок Elasticsearch; если выдачи нет, запрос проходит через модуль исправления опечаток и отправляется повторно. В рабочей среде эту роль выполнял алгоритм SymSpell — быстрый, но с неидеальным качеством исправлений.

Команда поиска «Купера» разработала нейросетевую модель исправления опечаток по принципу Seq2Seq, как в машинном переводе, с одним языком на входе и выходе. Энкодер — двунаправленная GRU, декодер — GRU с механизмом внимания; вариант на LSTM обучался дольше и лучших результатов не дал. Запросы разбиваются на токены методом BPE. Обучающие пары собирались тремя способами: синтетические опечатки по названиям товаров, синтетические опечатки по корректным запросам и реальные пары из запросов одного пользователя в рамках одного заказа, проверенные открытыми моделями исправления опечаток. Для обучения применялись Teacher Forcing и предобучение Masked Language Modeling на названиях товаров.

Модель обучали на данных 2023 года и тестировали на данных 2024 года. По данным компании, на реальных запросах пользователей она дала на 17% больше качественных исправлений, чем SymSpell; лучше она показала себя и на сгенерированных опечатках. Наибольший прирост качества дали реальные опечатки пользователей. Модель работает медленнее SymSpell; компания считает разницу некритичной, так как ожидает, что поисковая система целиком отвечает пользователю за 500 миллисекунд. В июле 2024 года «Купер» тестировал модель в рабочей среде и планировал сократить время её работы, улучшить исправления для отдельных вертикалей, в том числе аптек, и учесть транслитерацию и неверную раскладку.