Gemma-4-E4B-it — вторая по размеру среди плотных моделей в новой линейке открытых LLM от google, предлагающая достойную производительность при крайне экономном потреблении ресурсов. Модель использует инновационную технику Per-Layer Embeddings (PLE), которая существенно изменяет подход к построению малых языковых моделей. В стандартных трансформерах каждый токен получает один вектор (эмбеддинг), проходящий через все слои сети. PLE работает иначе: каждый из 42 слоев декодера получает свой собственный небольшой эмбеддинг для каждого токена. Эти эмбеддинги хранятся в больших таблицах (общий объем модели достигает 8 миллиардов параметров), но во время вывода (инференса) активна лишь их эффективная часть — 4.5 миллиарда.
Такая архитектура позволяет модели E4B достигать производительности, сопоставимой с моделями в 2–3 раза большего размера. По отзывам сообщества, E4B уверенно превосходит Gemma-3 27B в ряде задач несмотря на то, что её эффективный размер в 12 раз меньше. Модель поддерживает контекстное окно в 128 тысяч токенов и использует гибридное внимание со скользящим окном на 512 токенов. Ключевым отличием E4B от старшей модели 31B является встроенная поддержка аудио (энкодер на ~300M параметров), что делает модель универсальной – она способна одновременно обрабатывать текст, изображения и звук.
Разработчики позиционируют E4B как модель для сложных локальных задач. Она идеально подходит для использования на высокопроизводительных ноутбуках, мощных мобильных устройствах и встраиваемых системах. Благодаря Apache 2.0, модель можно свободно донастраивать и встраивать в коммерческие продукты, работающие в условиях ограниченной оперативной памяти.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 |
1 | 73,73 ₽ | 143.43 | 4,86 | Запустить | |
131 072 |
1 | 46,94 ₽ | 96.70 | 4,06 | Запустить | |
131 072 |
1 | 91,14 ₽ | 169.50 | 4,45 | Запустить | |
131 072 |
1 | 211,77 ₽ | 157.20 | 23,36 | Запустить | |
131 072 |
1 | 367,41 ₽ | 200.66 | 28,18 | Запустить | |
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 |
1 | 46,94 ₽ | 42.76 | 1,67 | Запустить | |
131 072 tensor |
2 | 51,34 ₽ | 3,63 | Запустить | ||
131 072 |
1 | 73,73 ₽ | 67.22 | 2,12 | Запустить | |
131 072 |
1 | 91,14 ₽ | 134.00 | 2,10 | Запустить | |
131 072 pipeline |
3 | 127,37 ₽ | 1,69 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 11,21 | Запустить | ||
131 072 |
1 | 141,77 ₽ | 5,42 | Запустить | ||
131 072 tensor |
4 | 162,57 ₽ | 2,90 | Запустить | ||
131 072 |
1 | 211,77 ₽ | 100.87 | 21,38 | Запустить | |
131 072 |
1 | 341,77 ₽ | 117.24 | 21,07 | Запустить | |
131 072 |
1 | 367,41 ₽ | 25,93 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 47,97 | Запустить | ||
131 072 |
1 | 423,04 ₽ | 42,18 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 90,10 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.