Telegram стал жертвой «вымогателя, промышляющего блокировками», который подбросил материалы с изображением сексуального насилия над детьми (CSAM), измененные с помощью ИИ, чтобы заставить Apple удалить приложение из App Store, заявил сегодня генеральный директор Telegram Павел Дуров. Apple удалила Telegram из App Store примерно на 40 минут в понедельник вечером после обнаружения CSAM, но восстановила приложение после того, как Telegram удалил контент.
Злоумышленник оказался вымогателем блокировок: человеком, который требует выкуп с владельцев групп в обмен на то, что не будет атаковать их сообщества. Такие вымогатели используют автоматизированные аккаунты для размещения незаконного контента в публичных группах, а затем жалуются на него напрямую в Apple, пытаясь добиться удаления легитимных сообществ, владельцы которых отказались им платить.
Дуров сообщил, что злоумышленник использовал «технический трюк» для обхода инструментов модерации, отредактировав старое сообщение в активном групповом чате и добавив в него запрещенный контент. Злоумышленник смог обойти модерацию, поскольку участники группы не видели сообщение и не могли на него пожаловаться. Дуров отметил, что незаконный порнографический контент в публичных группах не является системной проблемой, так как в Telegram действует эффективная модерация, а данный инцидент был частным случаем, когда злоумышленник воспользовался «датированным задним числом, фактически невидимым контентом».
По словам Дурова, Apple удалила Telegram из App Store, не связавшись с компанией предварительно. Он заявил, что Apple поддалась на манипуляции и отреагировала излишне резко, а также предупредил о «потенциальном системном риске для каждого мобильного приложения, которое размещает контент, создаваемый пользователями».
После удаления Telegram из App Store в Apple сообщили, что проверка контента выявила материалы с изображением сексуального насилия над детьми, которые нарушали правила App Store. В Apple также добавили, что Telegram «оперативно удалил контент и заблокировал пользователя», что привело к возвращению приложения в App Store. Компания Apple пока не прокомментировала заявление Дурова о вымогательстве.
