Суперкомпьютер за 525 000 ₽ оказался на уровне RTX 5060 Ti — за что тогда просят такие деньги

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Платформа ПК

На ценнике MSI EdgeXpert MS-C931 — 524 999 рублей. В описании — NVIDIA Blackwell, 128 ГБ памяти и производительность до одного петафлопа. Само устройство производитель называет персональным ИИ-суперкомпьютером.

Кажется, такая коробка должна без труда обгонять обычный ПК с игровой видеокартой. Но в тесте модели gpt-oss-20b EdgeXpert выдавал 86,85 токена в секунду, а GeForce RTX 5060 Ti — 111,56. В Stable Diffusion 1.5 результат снова оказался близким: около трёх секунд на изображение.

Полмиллиона рублей за скорость видеокарты среднего класса? На первый взгляд предложение выглядит странно. Разгадка появляется, когда в память загружают модель весом 64 или 75 ГБ. Игровая карта в такой ситуации упрётся в объём видеопамяти, а маленький MSI продолжит работать. Его покупают не ради рекордов. Главное здесь — 128 ГБ общей памяти, куда помещаются нейросети, слишком крупные для обычного настольного компьютера.

Автор: MSI Источник: ru.msi.com

RTX 5060 Ti быстрее — пока модель небольшая

В основе EdgeXpert лежит NVIDIA Grace Blackwell GB10. Один чип объединяет 20-ядерный Arm-процессор и графику Blackwell с 6144 ядрами CUDA. Процессор и GPU работают с общим массивом из 128 ГБ LPDDR5X. Деления на обычную оперативную память и отдельную VRAM здесь нет.

Это удобно для больших моделей, но у конструкции есть слабое место. Пропускная способность памяти составляет 273 ГБ/с. У мощных дискретных видеокарт она заметно выше, поэтому небольшие нейросети на EdgeXpert не обязательно работают быстрее.

Так и произошло с gpt-oss-20b. Модель помещается в 16 ГБ видеопамяти, поэтому RTX 5060 Ti смогла использовать свою более быструю память и обогнала настольный «суперкомпьютер». Авторы теста предупреждают, что условия сравнения немного различались, поэтому цепляться за каждый токен не стоит. Общая картина всё равно понятна: на компактной модели EdgeXpert оказался примерно в классе RTX 5060 Ti.

С gpt-oss-120b ситуация изменилась. Для запуска ей потребовалось почти 64 ГБ памяти. EdgeXpert загрузил модель целиком и выдавал около 50 токенов в секунду. Затем система справилась с Llama 3.3 70B и DeepSeek-R1 Distill Llama 70B размером около 75 ГБ, хотя скорость упала примерно до трёх токенов в секунду.

Не быстро. Зато без второй видеокарты, серверной платформы и постоянного перебрасывания части модели в обычную оперативную память. Это похоже на сравнение спортивной машины с фургоном. Первая быстрее едет по пустой трассе. Второй выбирают, когда нужно увезти то, что в багажник просто не влезает.

Что означает «один петафлоп»

Цифра в характеристиках звучит внушительно: до одного петафлопа ИИ-производительности. Но рядом обязательно нужно читать мелкий шрифт.

Речь идёт о вычислениях FP4 с использованием разреженности. FP4 хранит числа с очень низкой точностью и рассчитан на подходящие нейросетевые операции. Сравнивать этот петафлоп с FP32, игровой производительностью или скоростью любой модели подряд бессмысленно. NVIDIA и MSI прямо указывают, что заявленная величина относится именно к теоретическим разреженным вычислениям FP4.

Если модель и программа хорошо используют этот формат, выигрыш может быть серьёзным. Если нет — рекламная цифра почти ничего не расскажет о реальной скорости. Поэтому EdgeXpert способен называться петафлопным компьютером и одновременно уступать RTX 5060 Ti в отдельном тесте. Противоречия тут нет. Просто измеряются разные вещи.

Полмиллиона платят прежде всего за 128 ГБ

Обычный игровой компьютер заточен под высокую скорость в задачах, которые помещаются в видеопамять. EdgeXpert построен с другим расчётом: дать разработчику как можно больше общего пространства для крупной модели.

NVIDIA заявляет поддержку инференса моделей до 200 млрд параметров и дообучения моделей до 70 млрд. Эти числа нельзя воспринимать как обещание запустить любую нейросеть соответствующего размера: многое зависит от квантования, контекста и выбранного программного стека. Но направление видно сразу — устройство рассчитано не на компактного чат-бота, а на модели, которым тесно в обычной видеокарте.

Есть и вторая часть цены. На EdgeXpert установлена DGX OS на базе Ubuntu и подготовлен набор программ NVIDIA: драйверы, библиотеки, контейнеры, средства мониторинга и AI Workbench. Разработчику не приходится вручную собирать окружение из нескольких версий CUDA и разбираться, почему очередной пакет не видит ускоритель.

Для домашнего пользователя это вряд ли стоит сотни тысяч рублей. Для команды, которая создаёт ИИ-продукт и позже перенесёт его в DGX Cloud или корпоративный кластер, готовая среда экономит время.

Автор: magnific.com Источник: www.magnific.com

Зачем вообще держать большую модель в офисе

Облачный ИИ удобнее: зарегистрировался, получил API-ключ и платишь за запросы. Но не все документы можно спокойно отправлять на чужой сервер.

Юридическая компания работает с договорами клиентов. HR-отдел — с резюме, зарплатами и внутренними отчётами. На заводе камеры могут постоянно передавать изображения с производственной линии. В таких сценариях локальная модель решает две проблемы: данные остаются внутри организации, а результат не зависит от соединения с внешним дата-центром.

MSI приводит реальные примеры использования EdgeXpert для анализа юридических документов, автоматизации кадровой работы, машинного зрения на производстве и перевода речи прямо в переговорной. Во всех случаях важна не максимальная цифра в бенчмарке, а возможность работать внутри закрытого контура. Дома подобная осторожность обычно не стоит полмиллиона. В компании утечка одного пакета документов может обойтись дороже.

Почти сервер, но размером с пару книг

Корпус EdgeXpert занимает около 1,2 литра. Его размеры — 151 x 151 x 52 мм, масса — 1,2 кг. Внутри установлены 128 ГБ памяти и NVMe-накопитель на 4 ТБ. На задней панели находятся четыре USB-C, HDMI, 10-гигабитный Ethernet и ConnectX-7 со скоростью до 200 Гбит/с.

Быстрая сеть нужна не для красивой цифры в спецификации. Два таких устройства можно соединить и работать с моделями до 405 млрд параметров. При желании несколько EdgeXpert объединяются в небольшой кластер, хотя итоговая скорость будет зависеть от модели и программного обеспечения.

Во время ИИ-тестов система потребляла до 180 Вт. Температура основного чипа поднималась до 86 °C, внешняя поверхность корпуса — до 42 °C. При этом шум оставался ровным и, по оценке авторов обзора, не слишком заметным для офиса или дома.

С апгрейдом всё строго. Память распаяна, процессор заменить нельзя, а добраться до SSD без серьёзной разборки трудно. Это не обычный ПК, который постепенно обновляют. Скорее готовый рабочий прибор: конфигурация выбрана заранее и почти не меняется.

Обычный компьютер во многих задачах окажется выгоднее

EdgeXpert легко купить не для той работы. Для генерации картинок, распознавания речи и небольшого локального чат-бота компьютер с GeForce будет дешевле и часто быстрее. Заодно на нём получится играть, монтировать видео и запускать привычные программы для x86.

У MSI используется Arm-процессор и DGX OS. Большая часть современного ИИ-софта такую архитектуру поддерживает, но случайная программа, собранная только под x86-64, может не запуститься. Универсальной домашней машиной EdgeXpert назвать трудно.

Покупка начинает иметь смысл, когда сходятся сразу несколько условий: модель не помещается в видеопамять обычной карты, данные нельзя отправлять в облако, а большой сервер пока слишком дорог или неудобен. То есть это устройство не для человека, которому захотелось попробовать локальную нейросеть. Оно для того, кто уже попробовал — и упёрся в предел памяти.

Автор: MSI Источник: ru.msi.com

За что просят 524 999 рублей

Название «суперкомпьютер» слегка сбивает прицел. От коробки с таким именем ждут огромной скорости, хотя EdgeXpert продаёт совсем другое. На небольшой модели он способен уступить RTX 5060 Ti. На крупной — продолжит работать там, где обычной видеокарте не хватит памяти. Весь смысл устройства укладывается в эти два предложения.

К цене добавляются компактный корпус, готовая программная среда NVIDIA, быстрая сеть для объединения нескольких систем и возможность не выпускать рабочие данные за пределы офиса. В официальной российской рознице за этот набор просят 524 999 рублей.

Для большинства покупателей сумма выглядит дикой — и вполне заслуженно. Но компания, которая уже арендует облачные ускорители или не может загружать документы во внешний сервис, считает иначе. MSI EdgeXpert не заменяет мощный игровой ПК и не пытается быть быстрее любой GeForce. Он решает одну дорогую и довольно узкую задачу: ставит на стол 128 ГБ памяти для нейросетей, которые больше некуда положить.

Изображение в превью:
Автор: MSI
Источник: ru.msi.com
Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор мультиварки, которая заменит много других устройств РЕДМОНД RMC-M52

Мультиварки на кухне стали для многих незаменимыми помощниками. Они позволяют приготовить вкусный завтрак, обед или ужин одним нажатием пары кнопок. Не нужно постоянно следить за процессом...

Мой любимый Московский марафон: менее четырёх часов горок, только горок и ничего кроме горок

Девиз Московского марафона — «Быть примером для многих». Мой результат — 3:57:30 без гелей, только на воде, бананах и апельсинах. Увеличение высоты — 272 м. На...

✦ ИИ  Куда делись деревья и трава: почему русские деревни на фотографиях XIX века выглядят такими голыми

Ряд изб, заборы, колеи, люди у ворот. Между домами — широкая полоса земли, на которой, кажется, не растёт вообще ничего. Ни привычных берёз у крыльца, ни сирени, ни даже густой травы...

Омурайсу: как омлет, рис и кетчуп превратились в одно из самых ностальгических блюд Японии

У омурайсу есть внешний вид, который почти невозможно перепутать с чем-то ещё. Овальная горка риса спрятана под жёлтым омлетом, сверху — яркая красная линия кетчупа. Иногда ею рисуют...

Почему Игарский порт пришёл в упадок, а Дудинский продолжил развиваться, хотя оба когда-то играли ключевую роль в судоходстве Енисея

На берегах Енисея, в арктических широтах Красноярского края, расположены два порта, Игарка и Дудинка. Оба возникли в первой половине XX века в связи с освоением Северного морского пути и ресурсами...

✦ ИИ  Почему дерево росло прямо из соли посреди Мертвого моря — и росло ли вообще

Есть фотографии, которым практически не требуется подпись. Белоснежный остров из соли, вокруг густая голубая вода Мертвого моря, а ровно посередине стоит одинокое дерево. Никакой земли вокруг не...