Новый чип Google для Gemini обещает снизить энергопотребление ИИ в 6-10 раз

Google разрабатывает серверный чип Frozen v2 для работы моделей Gemini с эффективностью в 6-10 раз выше текущей. Новое решение должно существенно снизить энергопотребление дата-центров при генерации ответов искусственного интеллекта.

Информацию раскрыло издание The Information, позже её подтвердило агентство Reuters. Официального анонса от Google пока не было. Данные основаны на анонимных источниках, а точные технические характеристики и сроки выпуска не раскрываются. Frozen v2 предназначен для фазы вывода (inference) — процесса генерации ответа моделью после завершения обучения.

Крупные языковые модели требуют значительных вычислительных ресурсов именно на этапе inference. Каждый запрос пользователя задействует специализированные процессоры в серверах. Стоимость обработки зависит от числа запросов, их сложности и эффективности оборудования.

Ключевая особенность чипа — интеграция фиксированной части алгоритмов Gemini непосредственно в кремний. Специализированный ускоритель избегает части вычислений и передачи данных, которые требуются универсальным процессорам. Это снижает энергию на каждую единицу сгенерированного текста.

Подход имеет существенные ограничения. Чип, оптимизированный под конкретную модель, теряет в гибкости по сравнению с универсальными решениями. Серьезное обновление архитектуры Gemini может потребовать разработки нового аппаратного дизайна и перепроизводства компонентов. Это типичный компромисс между специализированной производительностью и адаптивностью.

Google уже использует собственные TPU (Tensor Processing Unit — тензорные процессоры) для задач машинного обучения. Frozen v2 станет продолжением этой стратегии вертикальной интеграции аппаратной и программной части. Вычислительные потребности генеративного ИИ растут быстро, а снижение энергопотребления на запрос напрямую влияет на операционные издержки компании. Информация о ценах и сроках коммерческого внедрения пока не появилась.

Источник: Techno-Science.net