Процессор Nvidia HBM3e ориентирован на генеративный AI

Nvidia анонсировала следующее поколение своей процессорной технологии Grace Hopper, впервые поддерживающей память высокой производительности HBM3e для генеративных приложений искусственного интеллекта.

Платформа GH200 будет основана на новом чипе Grace Hopper с процессором на базе ARM, графическим процессором нового поколения и памятью HBM3e. Конфигурация платформы с двумя чипами будет представлять собой один сервер со 144 ядрами ARM Neoverse, восемью петафлопсами производительности AI и 282GB HBM3e. Это в 3,5 раза больше объема памяти и в 3 раза больше пропускной способности, чем у текущего предложения.

Память HBM3e, которая на 50% быстрее, чем текущая HBM3, обеспечивает общую пропускную способность 10TB/с, что позволяет новой платформе запускать модели в 3,5 раза больше, чем предыдущая версия.

Отметим, что от ведущих производителей серверов уже поступают предложения систем на основе анонсированного ранее ускоренного процессора Grace Hopper. GH200 будет полностью совместим с текущей спецификацией сервера Nvidia MGX. А с помощью MGX любой производитель систем может быстро добавить Grace Hopper во множество вариантов серверов.