В Discord из-за ошибки ИИ были заблокированы тысячи пользователей

В команде Discord подтвердили наличие сбоя в системе автоматической модерации на базе искусственного интеллекта (ИИ), из-за которой более 8 тысяч пользователей были ошибочно заблокированы за публикацию безобидных изображений. Как сообщает TechCrunch, проблема существовала с мая по июль 2026 года и затронула пользователей, загружавших изображения с клетчатыми узорами, включая шахматные доски, игровые текстуры, таблицы и инвентари из Minecraft. Алгоритм ошибочно определял такие изображения как запрещённый контент из-за механизма сопоставления с базой известных вредоносных материалов.

Источник изображения: ChatGPT В компании пояснили, что штатная процедура предполагает обязательную проверку всех подозрительных материалов сотрудниками службы Trust & Safety до применения санкций. Однако из-за программной ошибки автоматическая система начала самостоятельно блокировать учётные записи без участия модераторов. Дополнительный сбой не позволял своевременно отменять наказания даже после того, как специалисты подтверждали отсутствие нарушений. После выявления проблемы Discord восстановил все затронутые аккаунты и устранил неисправность. Представители сервиса принесли извинения пользователям и заявили, что усиливают внутренние механизмы контроля за работой ИИ-модерации.

 Всё больше интернет-платформ используют ИИ для выявления нарушений, но подобные технологии по-прежнему могут ложно срабатывать. Эксперты отмечают, что даже современные алгоритмы могут ошибочно классифицировать безопасные изображения или сообщения, поэтому ключевым элементом подобных систем остается обязательная проверка решений человеком. Случай с Discord стал одним из крупнейших известных примеров массовой ошибочной блокировки пользователей, вызванной сбоем в работе ИИ-инструментов.