Call of Duty: при ИИ-модерации голосового чата контакт игроков с токсичностью снизился на 43%

Activision развивает в Call of Duty инструменты против деструктивного поведения игроков: оскорблений и уничижительных высказываний в голосовом и текстовом чате, которые запрещает кодекс поведения франшизы. Этим занимается команда Disruptive Behavior. Задача — снизить контакт сообщества с таким поведением и повысить эффективность модерации во всех видах общения в игре, не ограничивая соревновательный дух. К запуску Call of Duty: Black Ops 6 25 октября 2024 года компания готовила развёртывание систем модерации голоса и текста с первого дня.

Голосовой чат модерирует ИИ-система на базе ToxMod; с прошлого года она работает во всех регионах, кроме Азии, на английском, испанском и португальском языках, а в Black Ops 6 добавлены французский и немецкий. Текстовую модерацию игровых чатов и имён пользователей Call of Duty ведёт вместе с Community Sift начиная с Modern Warfare (2019); система почти в реальном времени анализирует текстовый трафик и блокирует нарушающие кодекс сообщения. В августе 2024 года текстовая модерация расширена с 14 до 20 языков. Для жалоб на имена пользователей внедрена новая система анализа, которая передаёт критичные жалобы модераторам.

Системы модерации уже работали в Modern Warfare III и с первого дня запускаются в Black Ops 6. В июне 2024 года компания усилила санкции за нарушения в голосовом чате; после этого число повторных нарушителей в Modern Warfare III и Warzone сократилось на 67%. В июле 2024 года 80% игроков, получивших санкцию за голосовой чат, не нарушили правила повторно. С января 2024 года контакт игроков с токсичным голосовым чатом снизился на 43%. С ноября 2023 года система заблокировала более 45 млн текстовых сообщений. С 2022 года команда работает с Калтехом, что, по данным компании, сократило время до применения санкций.