Дочерняя компания Apple, Claris, тестирует приложение под названием Harbor, которое превращает компьютеры Mac на Apple silicon в частный ИИ-сервер.
Harbor работает и с одним Mac на Apple silicon, но также поддерживает объединение нескольких компьютеров Mac через Thunderbolt 5, чтобы суммировать их объединённую память для запуска более крупных моделей. В macOS Tahoe 26.2 Apple добавила поддержку RDMA через Thunderbolt 5, что ускорило работу кластеров.
Harbor обнаруживает устройства, подключённые через Thunderbolt 5, и позволяет пользователям искать, загружать и запускать модели с открытыми весами. Приложение описывается как простое в использовании и не требующее ручной настройки.
Harbor превращает ваш Mac в частный сервер для ИИ-инференса. Запускайте модели с открытыми весами локально на Apple silicon — ваши данные никогда не покидают ваше оборудование, и ничто не попадает в облако. Подключите несколько компьютеров Mac через Thunderbolt 5, чтобы объединить их память и запускать крупные модели с более высокой параллельностью, чем способен обеспечить один компьютер.
Настройка за минуты, а не часы. Harbor автоматически обнаруживает ваши устройства через Thunderbolt 5 и формирует кластер. Подключите, запустите — и всё работает: без ручной настройки, без командной строки, без знаний в области инфраструктуры.
Загружайте и запускайте модели напрямую. Ищите, загружайте и запускайте модели с открытыми весами прямо из приложения. Harbor берёт управление моделями на себя, чтобы вы могли сосредоточиться на работе, а не на настройке.Кластеризация для масштабирования. Подключите два или более компьютера Mac с поддержкой Thunderbolt 5, и Harbor объединит их память в единый ресурс для инференса. Запускайте модели, которые превышают возможности любого отдельного компьютера, или обслуживайте больше одновременных запросов в рамках кластера.
Harbor находится в стадии раннего доступа и публично недоступен. Страница приложения появлялась в App Store, но сейчас она удалена.
Claris известна своей платформой баз данных FileMaker, ориентированной на бизнес, поэтому пока неясно, как Apple будет продвигать приложение Harbor и будет ли оно бесплатным. На странице регистрации в Harbor запрашивается название компании, что указывает скорее на ориентацию на бизнес.
Для пользователей Mac, желающих запустить локальный ИИ-сервер, уже существуют известные бесплатные альтернативы. Exo — это инструмент с открытым исходным кодом для объединения Mac в кластеры, а LM Studio подходит для работы на одном Mac, однако приложение Harbor от Apple, судя по всему, сочетает простой интерфейс LM Studio с возможностью кластеризации.
