FuriosaAI и Supermicro разрабатывают AI-сервер на 16 ускорителей вместо 8

Южнокорейская компания FuriosaAI вместе с Supermicro проектирует серверный лоток на 16 AI-ускорителей. Решение вдвое превосходит стандартную компоновку и ускоряет обработку данных за счет сокращения межсерверного обмена.

Новая конструкция использует двухслойную архитектуру «сэндвич». В одном корпусе размещаются две материнские платы, каждая с 8 слотами PCIe (стандарт высокоскоростного подключения компонентов). Всего получается 16 разъемов для XPU — процессоров, оптимизированных под задачи машинного обучения и нейросетевых вычислений. Обе платы делят одну систему охлаждения, что экономит пространство и снижает энергопотребление.

Ключевую роль играет чип коммутации Astera Labs. Он управляет распределением данных между ускорителями и сетевыми интерфейсами. Соотношение сетевой карты к коммутатору возрастает с 4:1 до 16:1. Практически это означает, что на каждые 16 AI-процессоров приходится один коммутатор вместо четырех.

Увеличение числа ускорителей в едином узле решает проблему пропускной способности. Сейчас нестоечные AI-серверы вмещают до 8 карт. Если модель требует больше вычислительных ресурсов, данные передаются между отдельными лотками. Это создает задержки и нагружает сетевую инфраструктуру. Конфигурация на 16 модулей позволяет обрабатывать больше данных локально, внутри одного физического блока.

О разработке стало известно из публикации южнокорейского издания THE ELEC от 29 июля. FuriosaAI разрабатывает чипы для задач искусственного интеллекта. Компания Supermicro поставляет серверное оборудование для дата-центров. Даты коммерческого запуска и цены решения не называются.

Источник: IT Home