120 млрд параметров без облака: Xiaomi представила компактный AI Cube на трёх собственных чипах

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Xiaomi представила инженерный образец мини-ПК AI Cube, способного запускать крупные языковые модели локально, включая модели объёмом до 120 млрд параметров. Компания показала компьютер на конференции XRING, где также раскрыла характеристики новых процессоров XRING O3, O100 и D100.


Автор: magnific Источник: www.magnific.com

В основу AI Cube вошли сразу три фирменных чипа. XRING O3 получил 10-ядерный процессор по схеме «все большие ядра», 16-ядерный графический блок G2-Ultra NX и NPU производительностью до 200 TOPS. AI-ускоритель XRING O100 изготовлен по 6-нм техпроцессу с использованием 3D-упаковки и обеспечивает пропускную способность памяти до 1,22 ТБ/с. XRING D100 выполнен по 3-нм технологии, содержит 20-ядерный CPU и 16-ядерный NPU и поддерживает до 160 ГБ памяти.

Сам компьютер получил цельный алюминиевый корпус с 33 874 точными CNC-вырезами и рассчитан на длительное энергопотребление до 150 Вт. Xiaomi заявляет поддержку локального запуска моделей от 3 до 120 млрд параметров, а пользователю доступны два режима работы — быстрый и экономичный, выбор которых зависит от характера нагрузки.

Пока AI Cube остаётся прототипом, поэтому Xiaomi не раскрыла сроки его выпуска. Компания также не сообщила, станет ли устройство серийным продуктом.

Читайте также

Новости

Публикации