192 ГБ памяти и 320 млрд параметров: GMKtec выпустила мини-ПК для запуска крупного ИИ полностью офлайн

GMKtec начала продажи мини-ПК EVO-X5 Pro, который рассчитан на локальный запуск языковых моделей с параметрами до 320 млрд. Компания изначально проектировала систему для моделей на 300 млрд параметров, но после доработки заявила о поддержке 320 млрд. При этом все вычисления выполняются на самом компьютере, без передачи модели в облако.

Основой системы стал AMD Ryzen AI Max+ PRO 495 с 16 ядрами Zen 5 и 32 потоками. Процессор работает на частоте до 5,2 ГГц и объединён с графикой Radeon 8065S на архитектуре RDNA 3.5 с 40 вычислительными блоками. Для ИИ предусмотрен отдельный NPU XDNA 2 производительностью до 55 TOPS.

Ключевой ресурс EVO-X5 Pro — 192 ГБ объединённой LPDDR5X-8533 с пропускной способностью до 273 ГБ/с. До 160 ГБ этой памяти система может динамически отдавать графическому процессору. Для хранения данных предусмотрены три M.2 PCIe 4.0, суммарный объём SSD может достигать 24 ТБ. Набор интерфейсов рассчитан на высокоскоростную работу: два USB4 V2 до 80 Гбит/с, два USB4 до 40 Гбит/с и два сетевых порта 10GbE.

Цена показывает, что перед нами уже не обычный домашний мини-ПК. Версия с 192 ГБ памяти и SSD на 2 ТБ стоит $6799, а конфигурация с 4 ТБ — $7099; на старте действуют более низкие цены. Для длительной нагрузки GMKtec использовала испарительную камеру и три вентилятора, а заявленный режим рассчитан на продолжительную работу с потреблением до 120 Вт.

Источник: gmktec