Google представила Gemma 4 12B — мультимодальную ИИ-модель с 12 млрд параметров с нативной поддержкой аудио и работы без энкодеров

Новая открытая модель обеспечивает производительность уровня более крупных систем при снижении требований к памяти и может работать локально на устройствах с 16 ГБ VRAM

Google представила новую модель Gemma 4 12B — мультимодальную систему искусственного интеллекта, рассчитанную на локальный запуск на ноутбуках и других устройствах с ограниченными вычислительными ресурсами. Модель стала промежуточным звеном между компактной E4B и более крупной MoE-архитектурой на 26 млрд параметров.

Ключевая особенность Gemma 4 12B заключается в том, что это первая модель среднего размера в линейке, которая изначально поддерживает аудиовходы. Кроме того, разработчики заявляют, что система способна работать без традиционных отдельных энкодеров для обработки изображений и аудио, используя более прямую интеграцию мультимодальных сигналов в основную языковую модель.

По словам компании, архитектура модели была радикально упрощена. В случае обработки изображений отдельный vision-энкодер заменён лёгким модулем на основе матричных преобразований и позиционного кодирования, что снижает вычислительные затраты. Аудиообработка реализована ещё проще — сырой сигнал проецируется в пространство текстовых токенов без отдельного энкодера.

Иллюстрация: Google

Несмотря на упрощённую архитектуру, Gemma 4 12B демонстрирует производительность, близкую к более крупной модели с 26 млрд параметров на стандартных бенчмарках. При этом её требования к памяти существенно ниже, что позволяет запускать систему локально на устройствах с 16 ГБ видеопамяти или унифицированной памяти.

Модель также поддерживает механизм Multi-Token Prediction (MTP), который снижает задержки при генерации текста, и ориентирована на агентные сценарии использования, включая выполнение сложных задач.

Отдельным акцентом Google стало то, что линейка Gemma уже достигла более 150 миллионов загрузок в сообществе разработчиков. На её основе создавались различные проекты — от носимых роботизированных систем до корпоративных решений в области кибербезопасности.

Gemma 4 12B распространяется под лицензией Apache 2.0 и предназначена для широкого использования в экосистеме разработчиков. В компании подчёркивают, что цель релиза — перенести продвинутые мультимодальные возможности ИИ непосредственно на устройства пользователей без необходимости обращения к облачным сервисам.

Darth Sahara Источники: Google
Главное