120 млрд параметров без облака: Xiaomi представила компактный AI Cube на трёх собственных чипах

Xiaomi представила инженерный образец мини-ПК AI Cube, способного запускать крупные языковые модели локально, включая модели объёмом до 120 млрд параметров. Компания показала компьютер на конференции XRING, где также раскрыла характеристики новых процессоров XRING O3, O100 и D100.

В основу AI Cube вошли сразу три фирменных чипа. XRING O3 получил 10-ядерный процессор по схеме «все большие ядра», 16-ядерный графический блок G2-Ultra NX и NPU производительностью до 200 TOPS. AI-ускоритель XRING O100 изготовлен по 6-нм техпроцессу с использованием 3D-упаковки и обеспечивает пропускную способность памяти до 1,22 ТБ/с. XRING D100 выполнен по 3-нм технологии, содержит 20-ядерный CPU и 16-ядерный NPU и поддерживает до 160 ГБ памяти.

Сам компьютер получил цельный алюминиевый корпус с 33 874 точными CNC-вырезами и рассчитан на длительное энергопотребление до 150 Вт. Xiaomi заявляет поддержку локального запуска моделей от 3 до 120 млрд параметров, а пользователю доступны два режима работы — быстрый и экономичный, выбор которых зависит от характера нагрузки.

Пока AI Cube остаётся прототипом, поэтому Xiaomi не раскрыла сроки его выпуска. Компания также не сообщила, станет ли устройство серийным продуктом.

Источник: gizmochina