GenStorAIGE показала систему AI90 с трёхуровневым хранением HBM+DRAM+SSD для ИИ

Компания GenStorAIGE представила на выставке WAIC 2026 решение AI90 для ускорения вывода данных в ИИ-системах. Технология сокращает задержку первого токена (минимальной единицы текста) в 50 раз за счёт интеграции SSD-накопителей в архитектуру видеопамяти графического процессора.

Решение AI90 представляет собой трёхуровневую систему хранения HBM+DRAM+SSD. Она позволяет выгружать KV-кэш (промежуточные данные языковых моделей) на твердотельные накопители большей емкости. Задержка первого токена снижается до долей секунды. Пропускная способность системы увеличивается в 5,1 раза, а потребление видеопамяти сокращается на 39%.

В основе AI90 лежит накопитель PT200Z на базе pSLC-флеш-памяти с интерфейсом PCIe Gen5. Скорость последовательного чтения достигает 14,8 ГБ/с, произвольного — 3100 тыс. операций ввода-вывода в секунду. Задержка чтения составляет 54 микросекунды, записи — 10 микросекунд.

Технология поддерживает прямое соединение нескольких графических процессоров через P2P (обмен данными между картами без участия центрального процессора). В кластере из восьми RTX 5090 прирост производительности достигает 5,8 раза. Система обрабатывает контексты объемом более 128 тысяч токенов, что критично для сложных языковых моделей с длинной памятью диалога.

Источник: IT Home