Apple добавила новую запись в свой журнал машинного обучения с подробными техническими сведениями о том, как она использует дифференциальную приватность для сбора анонимных данных об использовании таких устройств, как iPhone, iPad и Mac.
В общих чертах, дифференциальная приватность позволяет Apple собирать данные от большого числа пользователей без ущерба для конфиденциальности кого-либо из них.
Существует два типа дифференциальной приватности: централизованная и локальная. Apple выбрала локальный режим, что означает, что данные рандомизируются перед отправкой с устройств, поэтому ее серверы никогда не видят и не получают необработанные данные от пользователей.
При настройке устройства Apple явно спрашивает пользователей, желают ли они предоставлять информацию об использовании на основе согласия. Если пользователь отказывается, Apple не собирает никаких данных, если только он не решит согласиться позже.
Переключатель для отправки информации об использовании можно найти в разделе Настройки > Конфиденциальность > Аналитика в iOS 10 и новее, а также в разделе Системные настройки > Защита и конфиденциальность > Конфиденциальность > Аналитика в macOS Sierra и новее.
Apple утверждает, что собранные данные помогают, например, улучшить предиктивные слова клавиатуры QuickType и предложения эмодзи, а также выявлять проблемные веб-сайты, которые используют чрезмерную мощность или память в Safari.
Например, пользователь, согласившийся на отправку данных, который вводит эмодзи, может инициировать сбор информации об использовании на основе следующего процесса:
• Данные немедленно приватизируются с помощью локальной дифференциальной приватности.
• Данные временно хранятся на устройстве с использованием технологии защиты данных (Data Protection), которая описана на 11-й странице руководства по безопасности iOS от Apple.
• Через некоторое время собирается случайная выборка данных и отправляется на сервер Apple.
Данные, отправляемые в Apple, не включают идентификаторы устройств или временные метки событий, произошедших в информации об использовании. Связь между устройством и сервером Apple шифруется с использованием TLS.
В iOS информация, которой Apple делится для категорий данных, защищенных с помощью дифференциальной приватности, видна в разделе Настройки > Конфиденциальность > Аналитика > Данные аналитики в записях, начинающихся с «DifferentialPrivacy».
В macOS пользователи могут запустить приложение Console и просмотреть информацию в категории «Дифференциальная приватность» системных отчетов.
Кстати, в блоге говорится, что эмодзи «Лицо со слезами радости» является самым популярным, им пользуются более 25 процентов англоговорящих пользователей устройств Apple. Мы уже видели эту диаграмму раньше, но теперь она подписана по оси Y.
Подробное объяснение используемых Apple математических алгоритмов можно найти в записи «Обучение с масштабируемой конфиденциальностью» в ее журнале машинного обучения.
