В марте компания Nvidia представила ускоритель H100 на основе GPU GH100 поколения Hopper. Тогда мы узнали все основные характеристики самой карты, а заодно часть параметров графического процессора. Сегодня же в Сети появились недостающие данные о новом огромном GPU Nvidia.
Как мы знаем, GH100 содержит 80 млрд транзисторов. Это почти на 50% больше, чем GA100, при этом площадь нового GPU хотя и огромна, но всё же чуть меньше, чем у того же GA100: 814 против 826 мм2. Этого удалось добиться благодаря использованию самого современного техпроцесса TSMC из доступных — N4.
В конфигурацию GPU входит 18 432 ядра CUDA, из которых у ускорителя Nvidia H100 активны 15 872. При этом блоков, способных обрабатывать операции с двойной точностью (FP64), всего имеется вдвое меньше, то есть 9216 ядер. Соответственно, активны из них 7936 ядер.
Тензорных ядер у GPU имеется 576. Кроме того, один из блоков GPC располагает модулями для обработки растровой графики, так что Nvidia H100 может решать и такие задачи, но они для неё, само собой, не основные.
GH100 совмещён с 80 ГБ памяти HBM3, которая соединяется с GPU посредством шины разрядностью 6144 бита. В итоге пропускная способность достигает невероятных 3 ТБ/с.