Apple использовала тензорные процессоры (TPU), разработанные Google, вместо широко используемых графических процессоров (GPU) от Nvidia для создания двух критически важных компонентов Apple Intelligence.

Это решение подробно описано в новой исследовательской работе, опубликованной Apple, которая подчеркивает ее зависимость от облачного оборудования Google (через CNBC). В документе говорится, что Apple использовала 2048 чипов Google TPUv5p для создания моделей ИИ и 8192 процессора TPUv4 для серверных моделей ИИ. В исследовательской работе явно не упоминается Nvidia, но отсутствие каких-либо ссылок на оборудование Nvidia в описании инфраструктуры ИИ Apple является показательным, и это упущение предполагает преднамеренный выбор в пользу технологий Google.

Это решение примечательно, учитывая доминирование Nvidia на рынке процессоров для ИИ и тот факт, что Apple очень редко раскрывает свой выбор оборудования для целей разработки. GPU Nvidia пользуются большим спросом для приложений ИИ благодаря своей производительности и эффективности. В отличие от Nvidia, которая продает свои чипы и системы как отдельные продукты, Google предоставляет доступ к своим TPU через облачные сервисы. Клиенты, использующие TPU Google, должны разрабатывать свое программное обеспечение в экосистеме Google, которая предлагает интегрированные инструменты и услуги для оптимизации разработки и развертывания моделей ИИ.

В документе инженеры Apple объясняют, что TPU позволили им эффективно обучать большие, сложные модели ИИ. Они описывают, как TPU Google организованы в большие кластеры, обеспечивая вычислительную мощность, необходимую для обучения моделей ИИ от Apple. Apple объявила о планах инвестировать более 5 миллиардов долларов в усовершенствование серверов для ИИ в течение следующих двух лет, что должно повысить ее возможности в области ИИ и уменьшить зависимость от внешних поставщиков оборудования.

Помимо подробного описания использования TPU Google, в документе рассматриваются этические соображения при разработке ИИ. Apple подчеркнула свое соблюдение ответственных практик работы с данными, заявив, что при обучении ее моделей ИИ не использовались личные данные пользователей. Компания опиралась на смесь общедоступных, лицензированных и открытых наборов данных для целей обучения. Apple добавила, что ее набор обучающих данных, который включает общедоступные веб-данные и лицензированный контент, был тщательно подобран для защиты конфиденциальности пользователей.