Discord банил за Excel

Discord столкнулся с массовыми ложными срабатываниями автоматической модерации: система начала банить пользователей за изображения, которые не имеют отношения к запрещённому контенту. Под санкции попадали даже обычные скриншоты Excel, потому что ИИ ошибочно воспринимал сетку таблиц как материал для взрослых.

Что произошло

Новая система модерации Discord, судя по жалобам пользователей, стала реагировать на любые изображения с выраженной сеткой. Из-за этого как запрещённый контент отмечались файлы и скриншоты, не нарушающие правила платформы.

Под бан, по данным из сообщения, попадали:

• •скриншоты Excel
• •изображения шахматных досок
• •инвентарь из Minecraft

Во всех этих случаях общий признак один — повторяющаяся визуальная структура из ячеек, которую алгоритм, вероятно, интерпретировал некорректно.

Почему это важно

Ситуация показывает типичную проблему автоматической модерации: ИИ может ошибаться на простых визуальных паттернах и без контекста принимать безопасный контент за запрещённый. Такие сбои особенно заметны, когда санкции применяются массово и затрагивают обычные пользовательские материалы.

Discord уже использует автоматические инструменты для выявления нарушений, и подобные системы обычно проверяют изображения без участия человека на первом этапе. Именно поэтому ошибка в классификации может быстро затронуть большое число пользователей.

Реакция Discord

В Discord признали наличие бага и заявили, что исправили его. Подробностей о причине сбоя и о том, как именно была скорректирована работа модерации, в исходном сообщении нет.