Reddit: ИИ-модерация сократила показы спама примерно на 20%

Reddit — платформа сообществ, которой ежедневно пользуются миллионы людей. Цель компании — ограничить влияние недобросовестных участников и показы их контента, выявляя нарушения до того, как пост увидит человек. Отдельная задача — быстро пресекать вредный контент: ненависть, травлю, скоординированные злоупотребления и угрозы насилием, с упором на снижение реального вреда.

Reddit применяет ИИ, чтобы расширить выявление манипулятивного и спамного контента за счёт новых сигналов и более быстрых санкций. Подозрительные аккаунты оцениваются по сигналам уже в момент регистрации, чтобы остановить их до первой публикации. Для опубликованного контента компания использует LLM: они распознают тонкие скоординированные паттерны фейкового поведения и искусственного ажиотажа, которые прежние системы пропускали. Автоматические системы против ненависти и насилия расширены на весь англоязычный текстовый контент платформы; поддержку других языков компания обещает вскоре.

Системы работают в составе многоуровневой модерации: команды безопасности Reddit сочетают автоматические инструменты с ручной проверкой, а волонтёры-модераторы используют ИИ-инструменты Reputation Filter, Crowd Control и Ban-Evasion Detection. По данным компании на июль 2026 года, системы блокируют 23 млн показов спама в сутки и выявляют около 25 тыс. новых спам-постов и комментариев в день; за последние три месяца ежедневно отзывалось почти 2 млн неаутентичных голосов. Показы спама в январе–марте 2026 года снизились примерно на 20% к предыдущим трём месяцам. По контенту с ненавистью и насилием число санкций выросло более чем на 200%, показы снизились более чем на 40%, ложные срабатывания — более чем на 40%.