Индустрия видеоигр - особенно в прошлом - печально известна своей токсичностью, когда речь идет об онлайновых играх и голосовых чатах. Call of Duty, являясь одной из крупнейших игровых франшиз, всегда с трудом заставляла некоторых своих пользователей сдерживать подобное поведение. Последняя инициатива Activision заключается в том, что команда по борьбе с токсичностью внедрила новую функцию модерирования голосовых чатов в режиме реального времени с использованием искусственного интеллекта для выявления негативного поведения.

Сообщив об этом в своем блоге, сотрудники "Call of Duty" заявили: "Новая система модерации голосовых чатов Call of Duty использует ToxMod, технологию модерации голосовых чатов с помощью искусственного интеллекта от компании Modulate, для выявления в режиме реального времени токсичных высказываний, включая язык ненависти, дискриминационные высказывания, преследования и многое другое".

Они продолжили: "Эта новая разработка укрепит действующие системы модерации под руководством команды Call of Duty по борьбе с токсичностью, которые включают в себя текстовую фильтрацию на 14 языках для внутриигрового текста (чат и имена пользователей), а также надежную систему сообщений об игроках в игре".

В то время как глобальный релиз новой инициативы начнется с выходом Call of Duty Modern Warfare III 10 ноября, бета-версия новой системы уже тестируется в США в играх Modern Warfare II и Warzone.

Хотя использование искусственного интеллекта для выявления токсичности может принести много пользы онлайновому пространству, есть опасение, что это может привести к появлению большого количества ложных срабатываний.