Ускоритель Nvidia H100 в модификации с интерфейсом PCIe может получить 120 ГБ памяти.
Пока Nvidia не анонсировала такую версию, да и не факт, что хоть какой-то анонс будет, так как в целом модель H100 дебютировала ещё в марте. Но на рынок решение попадает лишь сейчас и, видимо, к этому моменту компания подготовила новую версию.
Изначально, напомним, H100 была представлена в версиях с PCIe и SMX с разным количеством ядер CUDA, но с одинаковым объёмом памяти HBM2e в 80 ГБ. Новая версия будет отличаться от изначально анонсированной только памятью, то есть новинка имеет те же 16 896 ядер CUDA. Правда, так как это память HBM, повышение объёма приводит и к росту пропускной способности: с 2 до 3 ТБ/с. У версии SMX из-за особенностей интерфейса пропускная способность достигает 3,35 ТБ/с.
Nvidia H100 — это первое решение поколения Hopper. Это линейка ускорителей, специально разработанных для вычислений, и игровых аналогов у таких карт нет.