Институт искусственного интеллекта МФТИ провел исследование возможностей альтернативных GPU и создал Центр компетенций, который призван помочь бизнесу в построении инфраструктуры, независимой от решений Nvidia при работе с искусственным интеллектом.
В МФТИ рассказали:
В последние несколько лет в России ограничена доступность оборудования и программного обеспечения Nvidia (мирового лидера в производстве графических процессоров): компании столкнулись с ростом сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования. В этой связи бизнесу необходимо искать новые подходы к построению вычислительных контуров для задач машинного обучения.
Учёные провели комплексное исследование рынка альтернативных ускорителей, включая продукцию китайских производителей Moore Threads и MetaX. Они оценили архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей, компьютерного зрения, инференса и распределенных вычислений.
Исследование показало, что альтернативные карты S4000 от Moore Threads и C500 от MetaX могут применяться в широком спектре сценариев без потери функциональности. Тесты продемонстрировали стабильный запуск популярных языковых моделей, корректную работу современных фреймворков и предсказуемую производительность. В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты Nvidia A100. Оборудование также продемонстрировало устойчивость при длительных нагрузках.
В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей, расширить перечень поддерживаемых моделей и подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.