Apple готовит приложение для Mac для локального использования ИИ

Apple работает над приложением, которое превращает настольный Mac в небольшой центр обработки данных. Программа называется Harbor; она позволяет запускать модели с открытыми весами (open-weight models) локально, а также объединять несколько компьютеров Mac в кластер с помощью кабельного соединения. Об этом сообщает Аарон Перрис — эксперт, известный своими находками, связанными с продуктами Apple, — в социальной сети X.

Согласно описанию, опубликованному Перрисом, Harbor превращает Mac в частный сервер для выполнения нейросетевых вычислений (инференса).

Модели с открытыми весами запускаются непосредственно на чипах Apple. Данные при этом никогда не покидают пределы вашего оборудования. Два или более компьютеров Mac соединяются через интерфейс Thunderbolt 5, а Harbor объединяет их оперативную память в единый ресурс. Это позволяет запускать модели, которые слишком велики для одного устройства, или обрабатывать больше запросов одновременно.

Приложение автоматически распознает подключенные устройства. Использование командной строки, ручная конфигурация или глубокие знания инфраструктуры не требуются. Поиск, загрузка и запуск моделей с открытыми весами осуществляются прямо в приложении.

В настоящее время Harbor находится на стадии закрытого предварительного тестирования под брендом Claris. Это дочерняя компания Apple, специализирующаяся на корпоративном программном обеспечении и известная своей платформой для создания баз данных — FileMaker. Как сообщает портал MacRumors, в App Store уже появлялась соответствующая страница, которую впоследствии удалили. На форме регистрации Claris запрашивается название компании, что указывает на то, что целевой аудиторией являются корпоративные клиенты. Пока остается открытым вопрос, будет ли приложение бесплатным. Компания Apple пока не дала никаких комментариев.

Проект Harbor не возник на пустом месте. Apple на протяжении многих месяцев готовила аппаратное и программное обеспечение именно для таких целей. В macOS Tahoe 26.2 появилось высокоскоростное прямое соединение между компьютерами Mac через интерфейс Thunderbolt 5 (с использованием технологии RDMA), что ускоряет создание вычислительных кластеров. Кроме того, существует MLX — разработанный Apple фреймворк с открытым исходным кодом, предназначенный для выполнения ИИ-вычислений на фирменных чипах компании.

Летом последовало обновление аппаратной части. Apple особо подчеркивала, что новые чипы M6 и M5 Ultra позволяют запускать крупные модели ИИ непосредственно на самом устройстве.

Для работы языковой модели она должна целиком помещаться в оперативную память. Поскольку в чипах Apple центральный и графический процессоры используют один и тот же общий объем памяти, компьютеры Mac стали популярным решением для локального запуска ИИ. Ажиотаж вокруг OpenClaw — ИИ-агента с открытым исходным кодом — привел к тому, что в США одно время компьютеры Mac mini были полностью распроданы. Летом Тим Кук назвал Mac mini и Mac Studio «великолепными платформами для ИИ», признав, что клиенты осознали это быстрее, чем сама компания Apple.

У Apple есть и свои собственные локальные модели. Третье поколение базовых моделей Apple (Apple Foundation Models), представленное в июне и созданное на базе технологии Google Gemini, включает пять моделей. Две из них работают непосредственно на iPhone, iPad и Mac: AFM 3 Core (3 миллиарда параметров) и AFM 3 Core Advanced (20 миллиардов параметров, из которых в зависимости от запроса задействуются от 1 до 4 миллиардов). Оставшиеся три модели работают в облаке.

Проект Harbor ориентирован на другой класс решений. Модели с открытыми весами от сторонних разработчиков сегодня насчитывают сотни миллиардов параметров и требуют огромного объема памяти. Именно для таких задач и предназначено объединение нескольких компьютеров Mac в единую систему.

Сегодня для создания подобной связки из двух компьютеров Mac требуются специальные инструменты для разработчиков и серьезные профессиональные знания. Если верить заявленным характеристикам, проект Harbor позволит реализовать это всего за несколько минут.

Запуск локальных моделей на Mac — явление не новое. Такие приложения, как LM Studio и Ollama, уже много лет позволяют загружать и использовать открытые модели, а проект с открытым исходным кодом Exo объединяет несколько компьютеров в единый кластер. Издание MacRumors прямо сравнивает Harbor с LM Studio и Exo.

К преимуществам локального ИИ можно отнести отсутствие платы за каждый токен (оплата производится только один раз — при покупке оборудования) и сохранение конфиденциальности данных (они остаются на устройстве пользователя). Однако есть и существенные минусы.

По данным Engadget, комплект из четырех компьютеров Mac Studio (каждый с 256 ГБ памяти), на которых может работать Muse Spark Open, обойдется примерно в 38 000 долларов. Издание отмечает, что такая конфигурация недоступна для рядовых пользователей. Кроме того, наблюдается дефицит чипов памяти, из-за чего Apple уже повысила цены в этом году. Открытые модели пока уступают передовым проприетарным (закрытым) моделям, работающим в облаке.

По информации 9to5Mac, запуск может состояться в ближайшие недели или месяцы. В то же время AppleInsider полагает, что конечные пользователи увидят это приложение еще не скоро.