Месяц назад Nvidia представила ускоритель H100 на новой архитектуре Hopper. Это решение с 80 ГБ памяти, 18 432 ядрами CUDA (активны из них 15 872) и производительностью 60 TFLOPS.
Само собой, это, во-первых, специализированный ускоритель для серверов и суперкомпьютеров, а во-вторых, это новейшее решение топового уровня. И такой продукт не может стоить мало — и не стоит.
В Японии за новинку просят 36 445 долларов с учётом налогов. Сложно сказать, насколько это дорого, учитывая специфичность устройства. Сравнить же цены пока нельзя, так как никто другой в свой ассортимент карту пока не добавил. А причина проста: Nvidia H100 пока не вышла на рынок — это произойдёт только во второй половине года.
Однако косвенно сравнить цены всё же можно. Этот же магазин ранее добавил на сайт ускоритель Instinct MI210, оценив его в 16 500 долларов. Да, решение Nvidia производительнее, но далеко не вдвое. В частности, производительность с одинарной точностью (FP32) у новинки AMD составляет 45,3 TFLOPS, а у H100 в исполнении PCIe 5.0 — 48 TFLOPS.