Оптимизация ИИ ускоряет производительность Radeon RX 7900 XTX

В блоге AMD опубликовано исследование, выполненное совместно с экспертами из Microsoft. Оно демонстрирует, что благодаря применению модели, оптимизированной инструментом Microsoft Olive, возможно повысить производительность видеокарты Radeon RX 7900 XTX в области генеративного ИИ на порядок.

Основная цель состояла в том, чтобы инструмент Olive максимально эффективно оптимизировал модели для оборудования AMD. При этом использовались API платформы Microsoft DirectML и специфические компоненты драйвера от AMD.

Благодаря этой оптимизации видеокарта Radeon RX 7900 XTX улучшила свои показатели: если с неоптимизированной реализацией PyTorch устройство выдавало 1,87 итераций в секунду, то с оптимизированной версией этот показатель достиг 18,59 итераций.

При сравнении Radeon RX 7900 XTX с NVIDIA GeForce RTX 4080 на основе зарубежных цен и тестов Puget Systems, выяснилось, что флагман AMD может оказаться на 8% выгоднее. В то же время, RTX 4080 превосходит по скорости итераций на 4,4%. Однако при использовании другой реализации Stable Diffusion от SHARK, RX 7900 XTX может показать более высокую производительность, чем её конкурент.

Источник: https://wccftech.com/amd-radeon-7900-xtx-offers-higher-generative-ai-performance-per-dollar-than-nvidia-rtx-4080-after-990-speedup/