Apple в январе в частном порядке предупредила компанию xAI Илона Маска, что удалит приложение Grok из App Store, если компания не прекратит создание дипфейков с обнаженными и сексуализированными изображениями, согласно письму, отправленному Apple американским сенаторам и полученному NBC News ($).
Ранее в этом году возможности ИИ Grok оказались под пристальным вниманием после того, как пользователи X начали делиться несанкционированными сексуализированными изображениями женщин и детей, созданными приложением, многие из которых были основаны на фотографиях реальных людей.
Далее последовал запутанный процесс внедрения изменений в модерацию Grok, некоторые из которых можно было легко обойти. Публично Apple не комментировала эту полемику, но она отреагировала и фактически стала инициатором изменений. Внутренне компания обнаружила, что и X, и Grok нарушают ее руководящие принципы App Store, и потребовала от разработчиков представить план модерации контента, как показано в письме.
Согласно письму, Apple отклонила первоначальное исправление от xAI как недостаточное, заявив, что «изменения не зашли достаточно далеко», и Apple предупредила, что потребуются дополнительные корректировки, иначе Grok будет удален. Однако после дальнейших обменов мнениями Apple в конечном итоге пришла к выводу, что более поздняя версия приложения улучшилась достаточно для одобрения.
Раскрытие информации, по-видимому, было вызвано январским письмом сенаторов Рона Уайдена, Бена Рэя Лухана и Эдварда Марки, которые призвали Apple и Google удалить оба приложения, утверждая, что изображения нарушают правила App Store, запрещающие оскорбительный, сексуальный и эксплуататорский контент.
Сенаторы также заявили, что реакция Apple станет проверкой ее собственных аргументов, поскольку компания давно защищает свой кураторский App Store, утверждая, что ее процесс проверки обеспечивает безопасность пользователей. Позволив Grok продолжать генерировать такого рода изображения, по их мнению, это подорвет ее позицию в глазах общественности и в суде.
После того, как NBC News опубликовал свой отчет, X разместил на своей платформе следующее заявление:
«Мы строго запрещаем пользователям генерировать несанкционированные явные дипфейки и использовать наши инструменты для раздевания реальных людей. xAI имеет обширные меры безопасности для предотвращения такого злоупотребления, такие как непрерывный мониторинг общественного использования, анализ попыток уклонения в режиме реального времени, частые обновления моделей, фильтры запросов и дополнительные меры безопасности.»
Хотя количество сексуализированных дипфейков, созданных Grok и опубликованных в X, значительно уменьшилось, NBC News обнаружил, что Grok по-прежнему способен генерировать подобные изображения, причем некоторые пользователи, по-видимому, просто обновили свои тактики запросов, чтобы обойти меры безопасности. Вы можете прочитать полный отчет, перейдя по этой ссылке.
Примечание: В связи с политическим или социальным характером обсуждения данной темы, ветка обсуждения находится на нашем форуме Политические новости. Все участники форума и посетители сайта могут читать и следить за веткой, но размещение сообщений ограничено участниками форума, имеющими не менее 100 публикаций.
