Inception представила Mercury 3 — диффузионную LLM со скоростью 1068 токенов/с

Компания Inception выпустила языковую модель Mercury 3, построенную на диффузионной архитектуре. По данным разработчика, она превосходит GPT-6 Luna и Claude Haiku 5.5 в ряде тестов, одновременно генерируя более 1000 токенов в секунду.

В отличие от традиционных авторегрессионных LLM, которые создают текст последовательно, Mercury 3 формирует и уточняет несколько токенов параллельно. На графических процессорах NVIDIA модель показала скорость 1068 токенов в секунду.

Контекстное окно увеличено до 1 млн токенов — почти в четыре раза больше, чем у Mercury 2.5 с 260 тыс. токенов. Сама модель стала более чем в 40 раз крупнее Mercury 1, но сохранила сопоставимую скорость обработки.

Inception позиционирует Mercury 3 для сценариев, где важна минимальная задержка: интерактивного обучения, синхронного перевода, помощников для письма и автономных программных агентов. В агентных системах модель может последовательно искать данные в интернете, анализировать материалы и изучать журналы ПО, поэтому ускорение каждого шага сокращает общее время выполнения задачи.

Mercury 3 стала четвертой моделью Inception с момента выхода Mercury 1 в июне 2025 года. Mercury 2 добавила возможности рассуждения, а Mercury 2.5 — настраиваемый уровень рассуждений и увеличенное контекстное окно.

Модель доступна через Inception API, Baseten, OpenRouter и Vercel. Inception заявляет совместимость с OpenAI API и уже начала обучение следующей модели.

Источник: Interesting Engineering