Платим блогерам
Блоги
Nacvark
Для работы с этой ИИ-моделью не обязательно обращаться к облаку, как в привычных чат-ботах, но надо иметь 16GB VRAM
реклама

Google представила новую открытую мультимодальную модель искусственного интеллекта (ИИ) Gemma 4 12B, рассчитанную на запуск прямо на пользовательских устройствах. Модель занимает промежуточное место между компактной Gemma 4 E4B и более мощной Gemma 4 26B Mixture of Experts, предлагая продвинутые возможности рассуждения при меньших требованиях к памяти.Источник изображения: GoogleГлавная особенность Gemma 4 12B – единая архитектура без отдельных мультимодальных энкодеров. В отличие от многих моделей, где изображения и звук сначала обрабатываются отдельными блоками, здесь визуальные и аудиоданные передаются напрямую в основу языковой модели. В Google объясняют, что такой подход снижает задержку и уменьшает потребление памяти. 

Google утверждает, что Gemma 4 12B можно запускать даже на мощных ноутбуках, а не только в облачных дата-центрах. Это важно для разработчиков и компаний, которым нужны ИИ-сервисы с меньшей задержкой и большей приватностью: данные пользователя могут обрабатываться прямо на устройстве. Модель уже доступна на популярных платформах для разработчиков, включая Hugging Face и Kaggle, а также совместима с рядом инструментов для локального запуска ИИ.

Компания отмечает, что семейство Gemma 4 уже превысило 150 миллионов  скачиваний, а новая версия должна сделать мультимодальные агентные приложения доступнее без обязательного обращения к облаку, как в привычных чат-ботах.

Источник: blog.google
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости