Ограничения Apple M4 обошли через обратную разработку приватных API

Apple Neural Engine в чипах M-серии обычно используется для вывода уже обученных моделей, а не для полноценного обучения. Но независимый разработчик показал эксперимент, в котором ограничения M4 удалось обойти через обратную разработку приватных механизмов Apple. В результате Neural Engine задействовали для задач, которые Apple официально не открывает разработчикам.

Проект опубликован на GitHub и описывает запуск прямого и обратного прохода для transformer-модели прямо на Apple Neural Engine. Автор пишет, что использовал приватные API _ANEClient и _ANECompiler, а также собственную реализацию MIL — промежуточного формата модели. При этом в эксперименте не применялись стандартные инструменты Apple вроде Core ML, Metal или GPU-вычислений.

Главная интрига здесь в том, что M4 имеет заявленный потенциал около 15,8 TFLOPS в FP16 для Neural Engine, но этот блок в обычной экосистеме Apple закрыт под сценарии инференса. То есть разработчики могут запускать готовые модели, но не получают нормального публичного доступа к обучению. Эксперимент показывает, что железо технически способно на большее, чем разрешает официальный программный слой.

Автор также отмечает, что данные старались держать в оперативной памяти, не опираясь на запись во внутренний накопитель. Такой подход снижает задержки и помогает удерживать процесс быстрее. В проекте описаны и нестандартные приёмы для восстановления состояния, когда обучение прерывается или требует перезапуска, но это всё ещё выглядит как исследовательская работа, а не готовый инструмент для обычного пользователя.

Для Apple эта история неудобна не из-за одного конкретного результата, а из-за самого вопроса доступа к вычислительным блокам. В Mac и iPad уже стоят мощные Neural Engine, но их возможности жёстко направлены через официальные фреймворки. Теперь разработчики снова обсуждают, должна ли Apple шире открывать ANE для локального обучения моделей или продолжать держать этот блок под своим контролем.

Источник: https://wccftech.com