Gemma-4-26B-A4B-it первая открытая модель от google на базе архитектуры Mixture-of-Experts (MoE). При общем объеме в 25.2 миллиарда параметров, для обработки каждого токена активируется лишь их небольшая часть — от 3.8 до 4 миллиардов. По утверждениям разработчиков, такая эффективность позволяет модели достигать примерно 97% качества плотной модели 31B при значительно меньших вычислительных затратах. На момент релиза модель занимает 6-е место в рейтинге Arena AI среди открытых моделей, обходя конкурентов в 20 раз большего размера.
Модель 26B A4B построена на 30 слоях и использует гибридное внимание со скользящим окном на 1024 токена и поддерживает контекстное окно в 256 тысяч токенов. Она обладает мультимодальными возможностями отлично обрабатывая текст и изображения. В отличие от плотных аналогов, модель MoE специально оптимизирована для эффективного выполнения агентных рабочих процессов, демонстрируя значительный прогресс по сравнению с Gemma-3.
Для разработчиков ключевым преимуществом этой модели является её исключительная эффективность при развертывании. По оценкам сообщества, модель способна генерировать 162 токена в секунду на ускорителе NVIDIA RTX 4090 и может эффективно работать даже на устройствах с ограниченной памятью. Это делает её идеальным выбором для сложных агентных систем, задач глубокого анализа кода и интенсивного логического вывода, где требуется баланс между производительностью и затратами на оборудование.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | TPS | Tooling | Статус | Ссылка |
|---|---|---|---|---|---|---|---|
| google/gemma-4-26B-A4B-it | 262 144 | Публичный | 4×RTX4090 tensor |
238.00 | да | доступен | чат |
curl https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
--data-binary @- <<"EOF"
{"model": "gemma-4-26b-a4b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150
}
EOF
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json; charset=utf-8"
} `
-Body ([System.Text.Encoding]::UTF8.GetBytes((@{
model = "gemma-4-26b-a4b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" })
} | ConvertTo-Json -Depth 10)))
([System.Text.Encoding]::UTF8.GetString($response.RawContentStream.ToArray()) | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/",
)
chat_response = client.chat.completions.create(
model="gemma-4-26b-a4b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 pipeline |
3 | 78,57 ₽ | 2,36 | Запустить | ||
262 144 tensor |
2 | 83,37 ₽ | 3,03 | Запустить | ||
262 144 tensor |
4 | 85,77 ₽ | 3,86 | Запустить | ||
262 144 pipeline |
3 | 94,64 ₽ | 2,38 | Запустить | ||
262 144 tensor |
4 | 99,74 ₽ | 1,68 | Запустить | ||
262 144 tensor |
2 | 109,77 ₽ | 3,03 | Запустить | ||
262 144 tensor |
4 | 112,24 ₽ | 3,88 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 3,32 | Запустить | ||
262 144 |
1 | 141,77 ₽ | 1,66 | Запустить | ||
262 144 tensor |
4 | 162,57 ₽ | 1,16 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 3,31 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 8,18 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 8,17 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 10,07 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 18,48 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 16,43 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 34,97 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
2 | 83,37 ₽ | 1,20 | Запустить | ||
262 144 tensor |
4 | 85,77 ₽ | 2,03 | Запустить | ||
262 144 tensor |
2 | 109,77 ₽ | 1,20 | Запустить | ||
262 144 tensor |
4 | 112,24 ₽ | 2,05 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 1,49 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 1,48 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 114,60 | 6,35 | Запустить | |
262 144 tensor |
2 | 261,77 ₽ | 3,61 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 117,12 | 6,34 | Запустить | |
262 144 |
1 | 367,41 ₽ | 8,24 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 16,65 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 14,60 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 33,14 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
4 | 144,97 ₽ | 3,19 | Запустить | ||
262 144 pipeline |
6 | 147,44 ₽ | 1,88 | Запустить | ||
262 144 pipeline |
3 | 204,41 ₽ | 1,04 | Запустить | ||
262 144 tensor |
4 | 209,04 ₽ | 3,19 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 100,14 | 3,19 | Запустить | |
262 144 pipeline |
3 | 252,41 ₽ | 1,03 | Запустить | ||
262 144 tensor |
4 | 257,77 ₽ | 3,76 | Запустить | ||
262 144 tensor |
4 | 321,77 ₽ | 3,74 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 3,18 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 5,07 | Запустить | ||
262 144 pipeline |
3 | 387,41 ₽ | 4,23 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 13,49 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 11,43 | Запустить | ||
262 144 tensor |
4 | 513,04 ₽ | 8,01 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 29,98 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.