Apple сегодня расширила правила модерации App Store, включив в них интимные изображения, созданные с помощью ИИ и распространяемые без согласия изображённых людей. Контент сексуального характера был запрещён и раньше, но теперь Apple заявляет, что разработчики приложений должны активно предотвращать появление на своих платформах дипфейков, созданных с помощью ИИ, и удалять их. Apple предупреждает: если разработчики не примут меры, приложения с таким контентом могут удалить из ‌App Store‌.

В обновлённом правиле 1.2 упоминаются приложения для создания контента с помощью ИИ; оно может быть направлено, среди прочего, против таких приложений, как Grok. Пользователи жаловались, что чат-бот Grok от xAI используют для создания обнажённых и сексуализированных дипфейков. Ранее в этом году Apple заявила xAI, что удалит Grok из ‌App Store‌, если тот продолжит разрешать создавать обнажённые дипфейки. xAI ввела защитные меры, и Apple одобрила обновлённую версию приложения.

Apple также добавила правило 2.5.19, поясняющее, что разработчикам, которые добавляют функции или возможности, отсутствовавшие в отправленной на проверку версии приложения, грозит удаление из ‌App Store‌ и исключение из программы Apple Developer Program. Apple связывает это правило с приложениями для «раздевания», создающими откровенные изображения реальных людей без их согласия. Это говорит о том, что некоторые приложения скрывали своё истинное назначение при проверке, а функцию «раздевания» добавляли уже после одобрения.

В App Store также запрещены приложения со скрытыми или недокументированными функциями, в том числе те, которые вводят проверяющих в заблуждение относительно своего назначения и раскрывают вредоносные возможности — например, «раздевание» — только после одобрения. Эта тактика широко известна как «приманка и подмена».

Помимо изменений, направленных на борьбу с контентом, созданным с помощью ИИ, Apple обновила раздел 5: запрет на приложения, способствующие торговле людьми или эксплуатации детей, теперь распространяется и на альтернативные способы распространения приложений.

«Мы без колебаний удаляем приложения и прекращаем сотрудничество с их разработчиками, если те нарушают эти правила», — говорится в публикации Apple для разработчиков об изменениях правил.

Полный текст обновлённых правил Apple можно найти на её сайте.

Примечание: эта ветка обсуждения находится на нашем форуме политических новостей, где действуют особые правила.