Apple достигает прорыва в разработке искусственного интеллекта для iPhone

Компания Apple совершила значительный прогресс в разработке технологии искусственного интеллекта, который позволит запускать большие языковые модели (Large Language Models, LLMs) непосредственно на iPhone и других устройствах Apple. Это открывает новые перспективы для усовершенствования персонализированных функций искусственного интеллекта в продуктах компании.

Главной проблемой в реализации LLMs, таких как ChatGPT, на мобильных устройствах было ограниченное количество памяти и вычислительной мощности. Новое решение Apple позволяет использовать доступный флеш-накопитель iPhone вместо ограниченного оперативного памяти. Это увеличивает возможности хранения и выполнения крупных KI-моделей до двойного размера объема памяти устройства.

Для минимизации потребности в передаче данных и максимизации пропускной способности флеш-памяти, Apple применяет две новые технологии — Windowing и Row-Column Bundling. Эти инновации обеспечивают ускорение работы KI в четыре-пять раз на стандартных процессорах iPhone и в двадцать-двадцать пять раз на графических чипах.

Результаты исследований Apple предполагают разработку более продвинутых функций KI для iPhone, включая улучшенные взаимодействия с Siri, реальную машинную переводческую функцию, совершенствование в области фотографии и мониторинга здоровья. Эти функции будут адаптированы под индивидуальный контекст пользователя.

Кроме того, Apple разрабатывает собственную модель GPT под названием Ajax, которая сравнима по мощности с GPT-3. Совместно с новыми технологиями оптимизации памяти, такие модели могут быть интегрированы в будущие модели iPhone, сохраняя при этом обработку личных данных непосредственно на устройстве.

Источник: https://www.golem.de