Gemma-4-26B-A4B-it первая открытая модель от google на базе архитектуры Mixture-of-Experts (MoE). При общем объеме в 25.2 миллиарда параметров, для обработки каждого токена активируется лишь их небольшая часть — от 3.8 до 4 миллиардов. По утверждениям разработчиков, такая эффективность позволяет модели достигать примерно 97% качества плотной модели 31B при значительно меньших вычислительных затратах. На момент релиза модель занимает 6-е место в рейтинге Arena AI среди открытых моделей, обходя конкурентов в 20 раз большего размера.
Модель 26B A4B построена на 30 слоях и использует гибридное внимание со скользящим окном на 1024 токена и поддерживает контекстное окно в 256 тысяч токенов. Она обладает мультимодальными возможностями отлично обрабатывая текст и изображения. В отличие от плотных аналогов, модель MoE специально оптимизирована для эффективного выполнения агентных рабочих процессов, демонстрируя значительный прогресс по сравнению с Gemma-3.
Для разработчиков ключевым преимуществом этой модели является её исключительная эффективность при развертывании. По оценкам сообщества, модель способна генерировать 162 токена в секунду на ускорителе NVIDIA RTX 4090 и может эффективно работать даже на устройствах с ограниченной памятью. Это делает её идеальным выбором для сложных агентных систем, задач глубокого анализа кода и интенсивного логического вывода, где требуется баланс между производительностью и затратами на оборудование.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | TPS | Tooling | Статус | Ссылка |
|---|---|---|---|---|---|---|---|
| google/gemma-4-26B-A4B-it | 263K | Публичный | 4×4090 tensor |
238 | да | доступен | чат |
curl https://chat.immers.cloud/v1/endpoints/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
--data-binary @- <<"EOF"
{"model": "gemma-4-26b-a4b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150
}
EOF
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json; charset=utf-8"
} `
-Body ([System.Text.Encoding]::UTF8.GetBytes((@{
model = "gemma-4-26b-a4b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" })
} | ConvertTo-Json -Depth 10)))
([System.Text.Encoding]::UTF8.GetString($response.RawContentStream.ToArray()) | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/generate/",
)
chat_response = client.chat.completions.create(
model="gemma-4-26b-a4b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
# linux
export ANTHROPIC_BASE_URL=https://chat.immers.cloud/v1/endpoints/generate/
export ANTHROPIC_API_KEY=USER_API_KEY
export ANTHROPIC_MODEL=gemma-4-26b-a4b-it
# windows (ps)
[Environment]::SetEnvironmentVariable("ANTHROPIC_BASE_URL", "https://chat.immers.cloud/v1/endpoints/generate/", "User")
[Environment]::SetEnvironmentVariable("ANTHROPIC_AUTH_TOKEN", "USER_API_KEY", "User")
[Environment]::SetEnvironmentVariable("ANTHROPIC_MODEL", "gemma-4-26b-a4b-it", "User")
# linux
export OPENAI_BASE_URL=https://chat.immers.cloud/v1/endpoints/generate/
export OPENAI_API_KEY=USER_API_KEY
export OPENAI_MODEL=gemma-4-26b-a4b-it
# windows (ps)
[Environment]::SetEnvironmentVariable("OPENAI_BASE_URL", "https://chat.immers.cloud/v1/endpoints/generate/", "User")
[Environment]::SetEnvironmentVariable("OPENAI_API_KEY", "USER_API_KEY", "User")
[Environment]::SetEnvironmentVariable("OPENAI_MODEL", "gemma-4-26b-a4b-it", "User")
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 |
1 | 211,77 ₽ | 122.66 | 6,54 | Запустить | |
262 144 |
1 | 341,77 ₽ | 6,54 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 8,07 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 13,24 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 168.50 | 3,29 | Запустить | |
262 144 tensor |
2 | 83,37 ₽ | 3,41 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 249.00 | 3,23 | Запустить | |
262 144 tensor |
2 | 139,77 ₽ | 3,29 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 166.86 | 14,74 | Запустить | |
262 144 tensor |
2 | 839,97 ₽ | 28,46 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
4 | 112,24 ₽ | 1,42 | Запустить | ||
262 144 pipeline |
3 | 119,81 ₽ | 3,18 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 141.00 | 1,58 | Запустить | |
262 144 tensor |
2 | 139,77 ₽ | 1,58 | Запустить | ||
262 144 tensor |
4 | 139,96 ₽ | 4,03 | Запустить | ||
262 144 tensor |
2 | 171,77 ₽ | 163.33 | 1,23 | Запустить | |
262 144 |
1 | 211,77 ₽ | 114.60 | 5,26 | Запустить | |
262 144 tensor |
2 | 261,77 ₽ | 3,57 | Запустить | ||
262 144 |
1 | 341,77 ₽ | 132.83 | 4,91 | Запустить | |
262 144 |
1 | 367,41 ₽ | 209.64 | 6,81 | Запустить | |
262 144 tensor |
2 | 411,81 ₽ | 13,23 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 11,30 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 26,62 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
4 | 144,97 ₽ | 1,92 | Запустить | ||
262 144 pipeline |
6 | 147,44 ₽ | 1,58 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 100.14 | 2,68 | Запустить | |
262 144 tensor |
4 | 257,77 ₽ | 133.60 | 2,27 | Запустить | |
262 144 tensor |
4 | 269,04 ₽ | 2,27 | Запустить | ||
262 144 tensor |
4 | 321,77 ₽ | 238.00 | 2,26 | Запустить | |
262 144 |
1 | 341,77 ₽ | 2,61 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 3,64 | Запустить | ||
262 144 pipeline |
3 | 387,41 ₽ | 3,42 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 10,63 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 8,80 | Запустить | ||
262 144 tensor |
4 | 513,04 ₽ | 4,84 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 24,02 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.