Суперкомпьютер за 525 000 ₽ оказался на уровне RTX 5060 Ti — за что тогда просят такие деньги

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

На ценнике MSI EdgeXpert MS-C931 — 524 999 рублей. В описании — NVIDIA Blackwell, 128 ГБ памяти и производительность до одного петафлопа. Само устройство производитель называет персональным ИИ-суперкомпьютером.

Кажется, такая коробка должна без труда обгонять обычный ПК с игровой видеокартой. Но в тесте модели gpt-oss-20b EdgeXpert выдавал 86,85 токена в секунду, а GeForce RTX 5060 Ti — 111,56. В Stable Diffusion 1.5 результат снова оказался близким: около трёх секунд на изображение.

Полмиллиона рублей за скорость видеокарты среднего класса? На первый взгляд предложение выглядит странно. Разгадка появляется, когда в память загружают модель весом 64 или 75 ГБ. Игровая карта в такой ситуации упрётся в объём видеопамяти, а маленький MSI продолжит работать. Его покупают не ради рекордов. Главное здесь — 128 ГБ общей памяти, куда помещаются нейросети, слишком крупные для обычного настольного компьютера.

Автор: MSI Источник: ru.msi.com

RTX 5060 Ti быстрее — пока модель небольшая

В основе EdgeXpert лежит NVIDIA Grace Blackwell GB10. Один чип объединяет 20-ядерный Arm-процессор и графику Blackwell с 6144 ядрами CUDA. Процессор и GPU работают с общим массивом из 128 ГБ LPDDR5X. Деления на обычную оперативную память и отдельную VRAM здесь нет.

Это удобно для больших моделей, но у конструкции есть слабое место. Пропускная способность памяти составляет 273 ГБ/с. У мощных дискретных видеокарт она заметно выше, поэтому небольшие нейросети на EdgeXpert не обязательно работают быстрее.

Так и произошло с gpt-oss-20b. Модель помещается в 16 ГБ видеопамяти, поэтому RTX 5060 Ti смогла использовать свою более быструю память и обогнала настольный «суперкомпьютер». Авторы теста предупреждают, что условия сравнения немного различались, поэтому цепляться за каждый токен не стоит. Общая картина всё равно понятна: на компактной модели EdgeXpert оказался примерно в классе RTX 5060 Ti.

С gpt-oss-120b ситуация изменилась. Для запуска ей потребовалось почти 64 ГБ памяти. EdgeXpert загрузил модель целиком и выдавал около 50 токенов в секунду. Затем система справилась с Llama 3.3 70B и DeepSeek-R1 Distill Llama 70B размером около 75 ГБ, хотя скорость упала примерно до трёх токенов в секунду.

Не быстро. Зато без второй видеокарты, серверной платформы и постоянного перебрасывания части модели в обычную оперативную память. Это похоже на сравнение спортивной машины с фургоном. Первая быстрее едет по пустой трассе. Второй выбирают, когда нужно увезти то, что в багажник просто не влезает.

Что означает «один петафлоп»

Цифра в характеристиках звучит внушительно: до одного петафлопа ИИ-производительности. Но рядом обязательно нужно читать мелкий шрифт.

Речь идёт о вычислениях FP4 с использованием разреженности. FP4 хранит числа с очень низкой точностью и рассчитан на подходящие нейросетевые операции. Сравнивать этот петафлоп с FP32, игровой производительностью или скоростью любой модели подряд бессмысленно. NVIDIA и MSI прямо указывают, что заявленная величина относится именно к теоретическим разреженным вычислениям FP4.

Если модель и программа хорошо используют этот формат, выигрыш может быть серьёзным. Если нет — рекламная цифра почти ничего не расскажет о реальной скорости. Поэтому EdgeXpert способен называться петафлопным компьютером и одновременно уступать RTX 5060 Ti в отдельном тесте. Противоречия тут нет. Просто измеряются разные вещи.

Полмиллиона платят прежде всего за 128 ГБ

Обычный игровой компьютер заточен под высокую скорость в задачах, которые помещаются в видеопамять. EdgeXpert построен с другим расчётом: дать разработчику как можно больше общего пространства для крупной модели.

NVIDIA заявляет поддержку инференса моделей до 200 млрд параметров и дообучения моделей до 70 млрд. Эти числа нельзя воспринимать как обещание запустить любую нейросеть соответствующего размера: многое зависит от квантования, контекста и выбранного программного стека. Но направление видно сразу — устройство рассчитано не на компактного чат-бота, а на модели, которым тесно в обычной видеокарте.

Есть и вторая часть цены. На EdgeXpert установлена DGX OS на базе Ubuntu и подготовлен набор программ NVIDIA: драйверы, библиотеки, контейнеры, средства мониторинга и AI Workbench. Разработчику не приходится вручную собирать окружение из нескольких версий CUDA и разбираться, почему очередной пакет не видит ускоритель.

Для домашнего пользователя это вряд ли стоит сотни тысяч рублей. Для команды, которая создаёт ИИ-продукт и позже перенесёт его в DGX Cloud или корпоративный кластер, готовая среда экономит время.

Автор: magnific.com Источник: www.magnific.com

Зачем вообще держать большую модель в офисе

Облачный ИИ удобнее: зарегистрировался, получил API-ключ и платишь за запросы. Но не все документы можно спокойно отправлять на чужой сервер.

Юридическая компания работает с договорами клиентов. HR-отдел — с резюме, зарплатами и внутренними отчётами. На заводе камеры могут постоянно передавать изображения с производственной линии. В таких сценариях локальная модель решает две проблемы: данные остаются внутри организации, а результат не зависит от соединения с внешним дата-центром.

MSI приводит реальные примеры использования EdgeXpert для анализа юридических документов, автоматизации кадровой работы, машинного зрения на производстве и перевода речи прямо в переговорной. Во всех случаях важна не максимальная цифра в бенчмарке, а возможность работать внутри закрытого контура. Дома подобная осторожность обычно не стоит полмиллиона. В компании утечка одного пакета документов может обойтись дороже.

Почти сервер, но размером с пару книг

Корпус EdgeXpert занимает около 1,2 литра. Его размеры — 151 x 151 x 52 мм, масса — 1,2 кг. Внутри установлены 128 ГБ памяти и NVMe-накопитель на 4 ТБ. На задней панели находятся четыре USB-C, HDMI, 10-гигабитный Ethernet и ConnectX-7 со скоростью до 200 Гбит/с.

Быстрая сеть нужна не для красивой цифры в спецификации. Два таких устройства можно соединить и работать с моделями до 405 млрд параметров. При желании несколько EdgeXpert объединяются в небольшой кластер, хотя итоговая скорость будет зависеть от модели и программного обеспечения.

Во время ИИ-тестов система потребляла до 180 Вт. Температура основного чипа поднималась до 86 °C, внешняя поверхность корпуса — до 42 °C. При этом шум оставался ровным и, по оценке авторов обзора, не слишком заметным для офиса или дома.

С апгрейдом всё строго. Память распаяна, процессор заменить нельзя, а добраться до SSD без серьёзной разборки трудно. Это не обычный ПК, который постепенно обновляют. Скорее готовый рабочий прибор: конфигурация выбрана заранее и почти не меняется.

Обычный компьютер во многих задачах окажется выгоднее

EdgeXpert легко купить не для той работы. Для генерации картинок, распознавания речи и небольшого локального чат-бота компьютер с GeForce будет дешевле и часто быстрее. Заодно на нём получится играть, монтировать видео и запускать привычные программы для x86.

У MSI используется Arm-процессор и DGX OS. Большая часть современного ИИ-софта такую архитектуру поддерживает, но случайная программа, собранная только под x86-64, может не запуститься. Универсальной домашней машиной EdgeXpert назвать трудно.

Покупка начинает иметь смысл, когда сходятся сразу несколько условий: модель не помещается в видеопамять обычной карты, данные нельзя отправлять в облако, а большой сервер пока слишком дорог или неудобен. То есть это устройство не для человека, которому захотелось попробовать локальную нейросеть. Оно для того, кто уже попробовал — и упёрся в предел памяти.

Автор: MSI Источник: ru.msi.com

За что просят 524 999 рублей

Название «суперкомпьютер» слегка сбивает прицел. От коробки с таким именем ждут огромной скорости, хотя EdgeXpert продаёт совсем другое. На небольшой модели он способен уступить RTX 5060 Ti. На крупной — продолжит работать там, где обычной видеокарте не хватит памяти. Весь смысл устройства укладывается в эти два предложения.

К цене добавляются компактный корпус, готовая программная среда NVIDIA, быстрая сеть для объединения нескольких систем и возможность не выпускать рабочие данные за пределы офиса. В официальной российской рознице за этот набор просят 524 999 рублей.

Для большинства покупателей сумма выглядит дикой — и вполне заслуженно. Но компания, которая уже арендует облачные ускорители или не может загружать документы во внешний сервис, считает иначе. MSI EdgeXpert не заменяет мощный игровой ПК и не пытается быть быстрее любой GeForce. Он решает одну дорогую и довольно узкую задачу: ставит на стол 128 ГБ памяти для нейросетей, которые больше некуда положить.

Изображение в превью:
Автор: MSI
Источник: ru.msi.com
Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор Snowsky Retro Nano: недорогой беспроводной ЦАП от FiiO

Как многим известно, компания FiiO, дабы избежать путаницы в своем модельном ряду, породила ещё один бренд: Snowsky. Делает он ровно тоже самое, с таким же железом и софтом, но в более простом...

Обход ГОСТа на ВЭФ Спидола-232: как советские радиолюбители открывали 100-метровый диапазон

ВЭФ Спидола-232 выпускал Рижский государственный электротехнический завод ВЭФ, с первого квартала 1979 года. Переносной приёмник второго класса сложности, вес 3,4 килограмма, габариты 260х360х110...

Двести лет без солнца: что скрывает легенда о Фимбульвинтере

Весна должна была прийти. Люди ждали, когда земля прогреется, взойдут посевы и скот снова можно будет выгнать на пастбища. Но солнце оставалось тусклым, лето не приносило привычного тепла, а запасы...

Клэм-чаудер: как один американский суп разделился на белую и красную версии

Клэм-чаудер кажется блюдом, которое должно пахнуть морем сильнее, чем спором. Но на северо-востоке США одна миска супа способна выдать региональную принадлежность. В Новой Англии ждут светлую...

Песок рисует звук: опыты Хладни с вибрирующими металлическими пластинами

В конце XVIII века звук можно было услышать, измерить высотой тона или описать движением струны, но почти невозможно увидеть. Эрнст Хладни нашёл способ заставить колебание оставить рисунок. Он брал...

От первого ветропарка России до завода лопастей: как Ульяновск стал столицей российской ветроэнергетики

Ульяновская область занимает особое место в истории российской ветроэнергетики. Именно здесь в 2018 году заработала первая промышленная ветроэлектростанция страны, а спустя годы регион превратился...