Gemma-4-26B-A4B-it первая открытая модель от google на базе архитектуры Mixture-of-Experts (MoE). При общем объеме в 25.2 миллиарда параметров, для обработки каждого токена активируется лишь их небольшая часть — от 3.8 до 4 миллиардов. По утверждениям разработчиков, такая эффективность позволяет модели достигать примерно 97% качества плотной модели 31B при значительно меньших вычислительных затратах. На момент релиза модель занимает 6-е место в рейтинге Arena AI среди открытых моделей, обходя конкурентов в 20 раз большего размера.
Модель 26B A4B построена на 30 слоях и использует гибридное внимание со скользящим окном на 1024 токена и поддерживает контекстное окно в 256 тысяч токенов. Она обладает мультимодальными возможностями отлично обрабатывая текст и изображения. В отличие от плотных аналогов, модель MoE специально оптимизирована для эффективного выполнения агентных рабочих процессов, демонстрируя значительный прогресс по сравнению с Gemma-3.
Для разработчиков ключевым преимуществом этой модели является её исключительная эффективность при развертывании. По оценкам сообщества, модель способна генерировать 162 токена в секунду на ускорителе NVIDIA RTX 4090 и может эффективно работать даже на устройствах с ограниченной памятью. Это делает её идеальным выбором для сложных агентных систем, задач глубокого анализа кода и интенсивного логического вывода, где требуется баланс между производительностью и затратами на оборудование.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | TPS | Tooling | Статус | Ссылка |
|---|---|---|---|---|---|---|---|
| google/gemma-4-26B-A4B-it | 262 144 | Публичный | — | 156.80 | да | доступен | чат |
curl https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "gemma-4-26b-a4b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "gemma-4-26b-a4b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/",
)
chat_response = client.chat.completions.create(
model="gemma-4-26b-a4b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
2 | 48,14 ₽ | 1,40 | Запустить | ||
262 144 tensor |
2 | 51,34 ₽ | 1,40 | Запустить | ||
262 144 pipeline |
3 | 74,84 ₽ | 1,17 | Запустить | ||
262 144 tensor |
2 | 83,37 ₽ | 3,53 | Запустить | ||
262 144 tensor |
4 | 99,74 ₽ | 2,26 | Запустить | ||
262 144 tensor |
2 | 109,77 ₽ | 3,53 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 3,53 | Запустить | ||
262 144 |
1 | 141,77 ₽ | 1,77 | Запустить | ||
262 144 tensor |
4 | 162,57 ₽ | 1,73 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 3,53 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 8,17 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 8,17 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 10,03 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 18,45 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 16,29 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 34,70 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 pipeline |
3 | 78,57 ₽ | 1,34 | Запустить | ||
262 144 tensor |
2 | 83,37 ₽ | 1,71 | Запустить | ||
262 144 tensor |
4 | 85,77 ₽ | 3,10 | Запустить | ||
262 144 pipeline |
3 | 94,64 ₽ | 1,34 | Запустить | ||
262 144 tensor |
2 | 109,77 ₽ | 1,71 | Запустить | ||
262 144 tensor |
4 | 112,24 ₽ | 3,10 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 1,71 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 1,71 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 6,34 | Запустить | ||
262 144 tensor |
2 | 261,77 ₽ | 3,84 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 117,12 | 6,34 | Запустить | |
262 144 |
1 | 367,41 ₽ | 8,20 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 16,62 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 14,46 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 32,87 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 pipeline |
3 | 119,81 ₽ | 1,37 | Запустить | ||
262 144 tensor |
4 | 144,97 ₽ | 4,19 | Запустить | ||
262 144 pipeline |
6 | 147,44 ₽ | 3,45 | Запустить | ||
262 144 pipeline |
3 | 204,41 ₽ | 1,37 | Запустить | ||
262 144 tensor |
4 | 209,04 ₽ | 4,19 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 100,14 | 3,17 | Запустить | |
262 144 pipeline |
3 | 252,41 ₽ | 1,37 | Запустить | ||
262 144 tensor |
4 | 257,77 ₽ | 4,19 | Запустить | ||
262 144 tensor |
4 | 321,77 ₽ | 4,19 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 3,17 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 5,04 | Запустить | ||
262 144 pipeline |
3 | 387,41 ₽ | 4,56 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 13,46 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 11,30 | Запустить | ||
262 144 tensor |
4 | 513,04 ₽ | 8,45 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 29,70 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.