Naver Webtoon: ИИ-фильтр Xpider — эффективность модерации 209% от прежней

Naver Webtoon даёт авторам публиковать вебтуны в пользовательских пространствах, где произведение может выложить любой автор без подтверждения возраста. Там появляются сцены откровенного характера, чрезмерное насилие и оскорбительные реплики. По словам руководителя команды AI Protection Nam Seung-hoon, чем открытее площадка для авторов из Кореи и других стран, тем выше потребность в проверке контента, а с ростом числа работ люди уже не успевают просматривать и оценивать каждую. Существующие модели глубокого обучения, по его словам, оптимизированы под реальные фотографии и на рисованных вебтунах заметно теряют в точности.

Компания сама разработала ИИ-фильтр Xpider. Модуль Xpider for Image анализирует сцены вебтуна по трём шкалам — обнажённость (Nudity), жестокость (Violence) и неэтичные высказывания (Toxic Dialogue): модель распознаёт движения и облик персонажей, оценивает степень вредности и выдаёт балл по каждой шкале. Например, сцена с баллом обнажённости 0,9926 с большей вероятностью относится к непристойному контенту, чем сцена с баллом 0,0221. Окончательное решение принимает человек: Xpider сплошь проверяет контент, а модераторы просматривают работы в порядке убывания балла. Их обратная связь используется для дообучения модели.

Исследования начались в сентябре 2020 года, с августа 2021 года Xpider for Image работает на глобальной площадке для начинающих авторов Canvas, а также в сообществе Canvas Community и в сервисе ToonFilter, который переводит фотографии в стиль вебтуна. По данным компании, эффективность проверки контента составила 209% от уровня до внедрения Xpider; у ранней модели фильтрации ToonSafer этот показатель составлял 42%. Компания развивает шкалу жестокости, чтобы модель понимала сцену целиком, и разрабатывает распознавание текста на изображениях; оба индикатора после внутренних тестов планируется добавить в основные сервисы. Отдельно ведётся разработка Xpider for Text для комментариев, постов и реплик.