Система ИИ-модерации Discord с мая 2026 года ошибочно заблокировала более 8000 пользователей. Об этом сообщила служба поддержки платформы в соцсети X.

«При проектировании механизма защиты специалисты Discord осознавали, что ИИ-модераторы могут совершать ошибки, поэтому любой потенциально вредоносный контент перед баном должен был отправляться на рассмотрение человеку», — говорится в сообщении службы поддержки Discord.

Новая система модерации сопоставляет файлы, которые пользователи отправляют в сообщениях, с базой данных «известных вредоносных материалов». В ней обнаружили баг, из-за которого ИИ-модерация могла выдавать баны без участия человека.

Администраторы платформы сообщили, что исправили ошибки и разблокировали всех пользователей, столкнувшихся с несправедливыми банами. Однако в комментариях к сообщению пользователи жалуются, что по-прежнему не могут получить доступ к своим аккаунтам.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.