Apple изучает технологию PrismML для локального ИИ с 27 млрд параметров на iPhone

Apple ведет переговоры со стартапом PrismML о внедрении языковых моделей искусственного интеллекта с увеличенным числом параметров для локального запуска на iPhone. Технология PrismML позволяет запускать на iPhone 17 Pro модель с 27 миллиардами параметров — это на 35% больше, чем у текущей встроенной системы Apple Intelligence.

Сейчас в iOS 27 на iPhone 17 Pro и iPhone Air используется модель AFM 3 Core Advanced с 20 миллиардами параметров. Она использует разреженную архитектуру: одновременно активны только 1-4 миллиарда параметров из общего объёма. PrismML адаптировала для iPhone открытую модель Alibaba Tongyi Qianwen 3.6. Её особенность в том, что все 27 миллиардов параметров активируются одновременно при тех же аппаратных ресурсах.

Перенос ИИ-задач с облачных серверов Private Cloud Compute на чип устройства даст два эффекта. Во-первых, это снизит затраты Apple на облачную инфраструктуру. Во-вторых, обработка голосовых команд и пользовательских данных без передачи за пределы смартфона повысит уровень защиты конфиденциальности.

Сейчас часть функций Apple Intelligence требует подключения к облаку из-за ограничений производительности чипа и объёма оперативной памяти. Переговоры с PrismML находятся на ранней стадии. Сроки внедрения технологии Apple пока не раскрывает.

Источник: CNMO