Китайская компания представила новый ПК, который запускает искусственный интеллект локально, а не в облаке

Компания M5Stack представила свой настольный компьютер Pyramid Pro, который имеет форму пирамиды. Устройство обладает внушительной производительностью на уровне 24 TOPS и разработано специально для локального выполнения задач искусственного интеллекта, минуя вычисления в облаке. Мини-ПК Pyramid Pro выделяется производителем скорее как «AI-устройство», а не традиционный персональный компьютер.

Компактный Pyramid Pro оснащён 8 ГБ оперативной памяти, способен эффективно кодировать и декодировать видео, поддерживает работу с несколькими камерами, предлагает широкий спектр портов ввода/вывода и отличается низким энергопотреблением. Устройство также включает 32 ГБ встроенной памяти eMMC, два порта HDMI 2.0, четыре порта USB-A 3.0 и два разъёма USB Type-C.

Вычислительная мощность в 24 TOPS идеально подходит для задач ИИ, хотя и уступает по производительности игровым ПК. Pyramid Pro ориентирован на выполнение таких задач, как компьютерное зрение в реальном времени, распознавание речи и обнаружение объектов. Он оптимизирован для работы с небольшими и средними моделями LLM (квантованными версиями, а не полномасштабными, как ChatGPT) и одновременной обработкой нескольких видеопотоков.

Для достижения компактности и эффективности M5Stack отказался от традиционного GPU, сделав ставку на центральный процессор Arm (CPU) и специализированный нейронный процессор. Это позволило создать устройство с низким энергопотреблением, которое быстро выполняет задачи ИИ, но менее производительно в других областях, таких как игры или ресурсоёмкое программирование. Pyramid Pro эффективно декодирует до шестнадцати видеопотоков 1080p одновременно, что делает его идеальным решением для систем видеонаблюдения, центров управления камерами с ИИ или периферийных аналитических систем на производстве.

Источник: interestingengineering