Стартап Biren разработал оптическую систему для связи 1024 ускорителей ИИ

Китайская компания Biren анонсировала оптическую архитектуру для объединения 1024 ИИ-ускорителей в один вычислительный кластер. Новая система должна устранить ограничения медных соединений, которые сегодня позволяют размещать в серверах не более 128 графических процессоров.

В основе разработки лежит технология NPO (оптика с малой плотностью упаковки). Она позволяет размещать оптоволоконные каналы вплотную к чипам, что кратно повышает скорость обмена данными между ускорителями. Для конечных пользователей это означает возможность обучать более сложные языковые модели и запускать ИИ-агентов без фрагментации вычислений на множество изолированных серверов. Biren тестирует два подхода: ортогональную архитектуру на электрических линиях (совместно с ZTE) и экспериментальную оптическую платформу, которая уже поддерживает 512 карт с перспективой расширения до 1024.

Дин Юньфань, вице-президент Biren, подчеркнул, что рост производительности одного графического процессора больше не решает проблему масштабирования ИИ. Критически важной стала способность объединить тысячи процессоров в единую бесшовную платформу. Медные кабели физически не способны передавать требуемые объемы данных при таких масштабах, что вынуждает отрасль переходить на оптику. Конкуренты — MetaX с супернодой Xijing S600 (64 графических процессора без внешних кабелей), Enflame и Alibaba — также разрабатывают аналогичные решения для противостояния платформам Nvidia NVL72 и NVL144.

Оптические межсоединения пока находятся на стадии прототипов и требуют проверки в промышленных условиях. Biren ожидает начала массовой коммерциализации NPO-систем к 2028 году. Шанхайский стартап входит в группу китайских производителей, которые развивают собственную инфраструктуру для обучения и работы крупных моделей искусственного интеллекта.

Источник: Interesting Engineering