Суперкомпьютер за 525 000 ₽ оказался на уровне RTX 5060 Ti — за что тогда просят такие деньги
На ценнике MSI EdgeXpert MS-C931 — 524 999 рублей. В описании — NVIDIA Blackwell, 128 ГБ памяти и производительность до одного петафлопа. Само устройство производитель называет персональным ИИ-суперкомпьютером.
Кажется, такая коробка должна без труда обгонять обычный ПК с игровой видеокартой. Но в тесте модели gpt-oss-20b EdgeXpert выдавал 86,85 токена в секунду, а GeForce RTX 5060 Ti — 111,56. В Stable Diffusion 1.5 результат снова оказался близким: около трёх секунд на изображение.
Полмиллиона рублей за скорость видеокарты среднего класса? На первый взгляд предложение выглядит странно. Разгадка появляется, когда в память загружают модель весом 64 или 75 ГБ. Игровая карта в такой ситуации упрётся в объём видеопамяти, а маленький MSI продолжит работать. Его покупают не ради рекордов. Главное здесь — 128 ГБ общей памяти, куда помещаются нейросети, слишком крупные для обычного настольного компьютера.
RTX 5060 Ti быстрее — пока модель небольшая
В основе EdgeXpert лежит NVIDIA Grace Blackwell GB10. Один чип объединяет 20-ядерный Arm-процессор и графику Blackwell с 6144 ядрами CUDA. Процессор и GPU работают с общим массивом из 128 ГБ LPDDR5X. Деления на обычную оперативную память и отдельную VRAM здесь нет.
Это удобно для больших моделей, но у конструкции есть слабое место. Пропускная способность памяти составляет 273 ГБ/с. У мощных дискретных видеокарт она заметно выше, поэтому небольшие нейросети на EdgeXpert не обязательно работают быстрее.
Так и произошло с gpt-oss-20b. Модель помещается в 16 ГБ видеопамяти, поэтому RTX 5060 Ti смогла использовать свою более быструю память и обогнала настольный «суперкомпьютер». Авторы теста предупреждают, что условия сравнения немного различались, поэтому цепляться за каждый токен не стоит. Общая картина всё равно понятна: на компактной модели EdgeXpert оказался примерно в классе RTX 5060 Ti.
С gpt-oss-120b ситуация изменилась. Для запуска ей потребовалось почти 64 ГБ памяти. EdgeXpert загрузил модель целиком и выдавал около 50 токенов в секунду. Затем система справилась с Llama 3.3 70B и DeepSeek-R1 Distill Llama 70B размером около 75 ГБ, хотя скорость упала примерно до трёх токенов в секунду.
Не быстро. Зато без второй видеокарты, серверной платформы и постоянного перебрасывания части модели в обычную оперативную память. Это похоже на сравнение спортивной машины с фургоном. Первая быстрее едет по пустой трассе. Второй выбирают, когда нужно увезти то, что в багажник просто не влезает.
Что означает «один петафлоп»
Цифра в характеристиках звучит внушительно: до одного петафлопа ИИ-производительности. Но рядом обязательно нужно читать мелкий шрифт.
Речь идёт о вычислениях FP4 с использованием разреженности. FP4 хранит числа с очень низкой точностью и рассчитан на подходящие нейросетевые операции. Сравнивать этот петафлоп с FP32, игровой производительностью или скоростью любой модели подряд бессмысленно. NVIDIA и MSI прямо указывают, что заявленная величина относится именно к теоретическим разреженным вычислениям FP4.
Если модель и программа хорошо используют этот формат, выигрыш может быть серьёзным. Если нет — рекламная цифра почти ничего не расскажет о реальной скорости. Поэтому EdgeXpert способен называться петафлопным компьютером и одновременно уступать RTX 5060 Ti в отдельном тесте. Противоречия тут нет. Просто измеряются разные вещи.
Полмиллиона платят прежде всего за 128 ГБ
Обычный игровой компьютер заточен под высокую скорость в задачах, которые помещаются в видеопамять. EdgeXpert построен с другим расчётом: дать разработчику как можно больше общего пространства для крупной модели.
NVIDIA заявляет поддержку инференса моделей до 200 млрд параметров и дообучения моделей до 70 млрд. Эти числа нельзя воспринимать как обещание запустить любую нейросеть соответствующего размера: многое зависит от квантования, контекста и выбранного программного стека. Но направление видно сразу — устройство рассчитано не на компактного чат-бота, а на модели, которым тесно в обычной видеокарте.
Есть и вторая часть цены. На EdgeXpert установлена DGX OS на базе Ubuntu и подготовлен набор программ NVIDIA: драйверы, библиотеки, контейнеры, средства мониторинга и AI Workbench. Разработчику не приходится вручную собирать окружение из нескольких версий CUDA и разбираться, почему очередной пакет не видит ускоритель.
Для домашнего пользователя это вряд ли стоит сотни тысяч рублей. Для команды, которая создаёт ИИ-продукт и позже перенесёт его в DGX Cloud или корпоративный кластер, готовая среда экономит время.
Зачем вообще держать большую модель в офисе
Облачный ИИ удобнее: зарегистрировался, получил API-ключ и платишь за запросы. Но не все документы можно спокойно отправлять на чужой сервер.
Юридическая компания работает с договорами клиентов. HR-отдел — с резюме, зарплатами и внутренними отчётами. На заводе камеры могут постоянно передавать изображения с производственной линии. В таких сценариях локальная модель решает две проблемы: данные остаются внутри организации, а результат не зависит от соединения с внешним дата-центром.
MSI приводит реальные примеры использования EdgeXpert для анализа юридических документов, автоматизации кадровой работы, машинного зрения на производстве и перевода речи прямо в переговорной. Во всех случаях важна не максимальная цифра в бенчмарке, а возможность работать внутри закрытого контура. Дома подобная осторожность обычно не стоит полмиллиона. В компании утечка одного пакета документов может обойтись дороже.
Почти сервер, но размером с пару книг
Корпус EdgeXpert занимает около 1,2 литра. Его размеры — 151 x 151 x 52 мм, масса — 1,2 кг. Внутри установлены 128 ГБ памяти и NVMe-накопитель на 4 ТБ. На задней панели находятся четыре USB-C, HDMI, 10-гигабитный Ethernet и ConnectX-7 со скоростью до 200 Гбит/с.
Быстрая сеть нужна не для красивой цифры в спецификации. Два таких устройства можно соединить и работать с моделями до 405 млрд параметров. При желании несколько EdgeXpert объединяются в небольшой кластер, хотя итоговая скорость будет зависеть от модели и программного обеспечения.
Во время ИИ-тестов система потребляла до 180 Вт. Температура основного чипа поднималась до 86 °C, внешняя поверхность корпуса — до 42 °C. При этом шум оставался ровным и, по оценке авторов обзора, не слишком заметным для офиса или дома.
С апгрейдом всё строго. Память распаяна, процессор заменить нельзя, а добраться до SSD без серьёзной разборки трудно. Это не обычный ПК, который постепенно обновляют. Скорее готовый рабочий прибор: конфигурация выбрана заранее и почти не меняется.
Обычный компьютер во многих задачах окажется выгоднее
EdgeXpert легко купить не для той работы. Для генерации картинок, распознавания речи и небольшого локального чат-бота компьютер с GeForce будет дешевле и часто быстрее. Заодно на нём получится играть, монтировать видео и запускать привычные программы для x86.
У MSI используется Arm-процессор и DGX OS. Большая часть современного ИИ-софта такую архитектуру поддерживает, но случайная программа, собранная только под x86-64, может не запуститься. Универсальной домашней машиной EdgeXpert назвать трудно.
Покупка начинает иметь смысл, когда сходятся сразу несколько условий: модель не помещается в видеопамять обычной карты, данные нельзя отправлять в облако, а большой сервер пока слишком дорог или неудобен. То есть это устройство не для человека, которому захотелось попробовать локальную нейросеть. Оно для того, кто уже попробовал — и упёрся в предел памяти.
За что просят 524 999 рублей
Название «суперкомпьютер» слегка сбивает прицел. От коробки с таким именем ждут огромной скорости, хотя EdgeXpert продаёт совсем другое. На небольшой модели он способен уступить RTX 5060 Ti. На крупной — продолжит работать там, где обычной видеокарте не хватит памяти. Весь смысл устройства укладывается в эти два предложения.
К цене добавляются компактный корпус, готовая программная среда NVIDIA, быстрая сеть для объединения нескольких систем и возможность не выпускать рабочие данные за пределы офиса. В официальной российской рознице за этот набор просят 524 999 рублей.
Для большинства покупателей сумма выглядит дикой — и вполне заслуженно. Но компания, которая уже арендует облачные ускорители или не может загружать документы во внешний сервис, считает иначе. MSI EdgeXpert не заменяет мощный игровой ПК и не пытается быть быстрее любой GeForce. Он решает одну дорогую и довольно узкую задачу: ставит на стол 128 ГБ памяти для нейросетей, которые больше некуда положить.
Источник: ru.msi.com





1 комментарий
Добавить комментарий