ChatGPT ускорится: OpenAI приобрела вычислительные мощности у Cerebras за $10 млрд

Компания OpenAI заключила контракт с производителем ускорителей Cerebras Systems на сумму свыше $10 млрд. В рамках соглашения OpenAI получит до 750 МВт вычислительных мощностей сроком на три года. Ввод инфраструктуры будет происходить поэтапно и завершится к 2028 году. Приобретённые мощности предназначены для инференса — генерации ответов в ChatGPT и других продуктах OpenAI.

Cerebras станет частью серверной инфраструктуры OpenAI, используемой в дата-центрах. Решения компании не ориентированы на потребительские устройства и применяются исключительно в серверных ИИ-кластерах. Основой платформы являются ускорители серии Wafer Scale Engine (WSE), устанавливаемые в специализированные серверные системы CS-3.Текущее поколение чипов WSE-3 выполнено по техпроцессу 5 нм и использует цельную кремниевую пластину площадью около 46 000 мм2. Чип содержит порядка 4 трлн транзисторов, более 900 тыс. вычислительных ядер и до 44 ГБ встроенной SRAM-памяти. Архитектура исключает необходимость обмена данными между отдельными GPU и внешней памятью, что снижает задержки при инференсе.

В инфраструктуре OpenAI ускорители Cerebras дополнят уже используемые решения на базе GPU Nvidia и AMD, TPU Google Cloud, а также разрабатываемые совместно с Microsoft и Broadcom процессоры. Сделка с Cerebras расширяет возможности компании в сегменте низколатентных вычислений.

Соглашение заключено на фоне консолидации рынка ИИ-ускорителей: ранее Nvidia приобрела стартап Groq за $20 млрд, после чего Cerebras осталась крупнейшим независимым поставщиком решений для быстрого инференса.

Источник: habr.com