Xiaomi внедряет технологию Arm SME2 для ИИ в мобильных устройствах

Компания Xiaomi интегрирует технологию Scalable Matrix Extension 2 (SME2) от Arm в свои смартфоны для обработки задач искусственного интеллекта. SME2, основанная на архитектуре Armv9, оптимизирует матричные вычисления, используемые в ИИ-системах. По данным Arm, технология способна увеличить скорость обработки отдельных операций.

Тестирование Arm показало, что модель Google Gemma 3 на оборудовании с SME2 работает в шесть раз быстрее по сравнению со стандартными процессорами. Обработка текста объемом 800 слов занимает менее секунды на одном ядре ЦПУ.

В текущей реализации технология обеспечивает:

• Синхронный перевод в реальном времени (AI Interpreter)
• Поиск информации через интерфейс Circle to Search
• Преобразование речи в текст с автоматическим определением языка

В планах компании — внедрение автоматического реферирования документов, адаптивных интерфейсов, инструментов корректуры текста (AI Proofreading), расширения изображений (AI Image Expansion) и удаления объектов со снимков (AI Erase Pro).

Технология SME2 адаптирована для различных устройств Xiaomi, включая смартфоны, планшеты и ноутбуки. Поддержка реализована в библиотеке XNNPACK от Google и совместима с фреймворками llama. cpp, MNN (Alibaba) и ONNX (Microsoft).

Источник: xiaominews.ru