Gemma-4-E4B-it — вторая по размеру среди плотных моделей в новой линейке открытых LLM от google, предлагающая достойную производительность при крайне экономном потреблении ресурсов. Модель использует инновационную технику Per-Layer Embeddings (PLE), которая существенно изменяет подход к построению малых языковых моделей. В стандартных трансформерах каждый токен получает один вектор (эмбеддинг), проходящий через все слои сети. PLE работает иначе: каждый из 42 слоев декодера получает свой собственный небольшой эмбеддинг для каждого токена. Эти эмбеддинги хранятся в больших таблицах (общий объем модели достигает 8 миллиардов параметров), но во время вывода (инференса) активна лишь их эффективная часть — 4.5 миллиарда.
Такая архитектура позволяет модели E4B достигать производительности, сопоставимой с моделями в 2–3 раза большего размера. По отзывам сообщества, E4B уверенно превосходит Gemma-3 27B в ряде задач несмотря на то, что её эффективный размер в 12 раз меньше. Модель поддерживает контекстное окно в 128 тысяч токенов и использует гибридное внимание со скользящим окном на 512 токенов. Ключевым отличием E4B от старшей модели 31B является встроенная поддержка аудио (энкодер на ~300M параметров), что делает модель универсальной – она способна одновременно обрабатывать текст, изображения и звук.
Разработчики позиционируют E4B как модель для сложных локальных задач. Она идеально подходит для использования на высокопроизводительных ноутбуках, мощных мобильных устройствах и встраиваемых системах. Благодаря Apache 2.0, модель можно свободно донастраивать и встраивать в коммерческие продукты, работающие в условиях ограниченной оперативной памяти.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 |
1 | 73,73 ₽ | 143.43 | 5,14 | Запустить | |
131 072 |
1 | 46,94 ₽ | 96.70 | 4,34 | Запустить | |
131 072 |
1 | 91,14 ₽ | 169.50 | 4,73 | Запустить | |
131 072 |
1 | 211,77 ₽ | 157.20 | 23,59 | Запустить | |
131 072 |
1 | 141,77 ₽ | 8,15 | Запустить | ||
131 072 |
1 | 341,77 ₽ | 171.74 | 23,09 | Запустить | |
131 072 |
1 | 367,41 ₽ | 200.66 | 28,19 | Запустить | |
131 072 |
1 | 423,04 ₽ | 44,44 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 14,35 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 50,56 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 92,69 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 |
1 | 73,73 ₽ | 67.22 | 2,08 | Запустить | |
131 072 |
1 | 46,94 ₽ | 42.76 | 1,63 | Запустить | |
131 072 |
1 | 91,14 ₽ | 134.00 | 2,11 | Запустить | |
131 072 |
1 | 211,77 ₽ | 100.87 | 21,52 | Запустить | |
131 072 |
1 | 141,77 ₽ | 5,37 | Запустить | ||
131 072 |
1 | 341,77 ₽ | 117.24 | 21,20 | Запустить | |
131 072 |
1 | 367,41 ₽ | 160.81 | 25,90 | Запустить | |
131 072 |
1 | 423,04 ₽ | 42,15 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 11,17 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 47,94 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 90,07 | Запустить | ||
131 072 tensor |
4 | 162,57 ₽ | 2,89 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.