Gemma-4-26B-A4B-it первая открытая модель от google на базе архитектуры Mixture-of-Experts (MoE). При общем объеме в 25.2 миллиарда параметров, для обработки каждого токена активируется лишь их небольшая часть — от 3.8 до 4 миллиардов. По утверждениям разработчиков, такая эффективность позволяет модели достигать примерно 97% качества плотной модели 31B при значительно меньших вычислительных затратах. На момент релиза модель занимает 6-е место в рейтинге Arena AI среди открытых моделей, обходя конкурентов в 20 раз большего размера.
Модель 26B A4B построена на 30 слоях и использует гибридное внимание со скользящим окном на 1024 токена и поддерживает контекстное окно в 256 тысяч токенов. Она обладает мультимодальными возможностями отлично обрабатывая текст и изображения. В отличие от плотных аналогов, модель MoE специально оптимизирована для эффективного выполнения агентных рабочих процессов, демонстрируя значительный прогресс по сравнению с Gemma-3.
Для разработчиков ключевым преимуществом этой модели является её исключительная эффективность при развертывании. По оценкам сообщества, модель способна генерировать 162 токена в секунду на ускорителе NVIDIA RTX 4090 и может эффективно работать даже на устройствах с ограниченной памятью. Это делает её идеальным выбором для сложных агентных систем, задач глубокого анализа кода и интенсивного логического вывода, где требуется баланс между производительностью и затратами на оборудование.
С рекомендации по использованию модели от разработчиков можно ознакомиться по этой ссылке - https://ai.google.dev/gemma/docs/core/model_card_4?hl=ru
| Наименование модели | Контекст | Тип | GPU | TPS | Tooling | Статус | Ссылка |
|---|---|---|---|---|---|---|---|
| google/gemma-4-26B-A4B-it | 263K | Публичный | 4×4090 tensor |
238 | да | доступен | чат |
curl https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
--data-binary @- <<"EOF"
{"model": "gemma-4-26b-a4b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150
}
EOF
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json; charset=utf-8"
} `
-Body ([System.Text.Encoding]::UTF8.GetBytes((@{
model = "gemma-4-26b-a4b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" })
} | ConvertTo-Json -Depth 10)))
([System.Text.Encoding]::UTF8.GetString($response.RawContentStream.ToArray()) | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/gemma4-26b-a4b-it/generate/",
)
chat_response = client.chat.completions.create(
model="gemma-4-26b-a4b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 |
1 | 211,77 ₽ | 122.66 | 6,54 | Запустить | |
262 144 |
1 | 341,77 ₽ | 6,54 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 8,07 | Запустить | ||
262 144 tensor |
2 | 139,77 ₽ | 168.50 | 3,29 | Запустить | |
262 144 tensor |
2 | 171,77 ₽ | 249.00 | 3,23 | Запустить | |
262 144 tensor |
2 | 139,77 ₽ | 3,29 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 166.86 | 14,74 | Запустить | |
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 |
1 | 211,77 ₽ | 114.60 | 5,26 | Запустить | |
262 144 |
1 | 341,77 ₽ | 132.83 | 4,91 | Запустить | |
262 144 |
1 | 367,41 ₽ | 209.64 | 6,79 | Запустить | |
262 144 tensor |
2 | 171,77 ₽ | 163.33 | 1,23 | Запустить | |
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
262 144 tensor |
4 | 144,97 ₽ | 2,30 | Запустить | ||
262 144 pipeline |
6 | 147,44 ₽ | 1,98 | Запустить | ||
262 144 pipeline |
3 | 204,41 ₽ | 1,30 | Запустить | ||
262 144 |
1 | 211,77 ₽ | 100.14 | 2,68 | Запустить | |
262 144 pipeline |
3 | 252,41 ₽ | 1,28 | Запустить | ||
262 144 tensor |
4 | 257,77 ₽ | 2,65 | Запустить | ||
262 144 tensor |
4 | 269,04 ₽ | 2,65 | Запустить | ||
262 144 tensor |
4 | 321,77 ₽ | 238.00 | 2,64 | Запустить | |
262 144 |
1 | 341,77 ₽ | 2,61 | Запустить | ||
262 144 |
1 | 367,41 ₽ | 4,20 | Запустить | ||
262 144 pipeline |
3 | 387,41 ₽ | 4,07 | Запустить | ||
262 144 tensor |
2 | 411,81 ₽ | 11,18 | Запустить | ||
262 144 |
1 | 423,04 ₽ | 9,37 | Запустить | ||
262 144 tensor |
4 | 513,04 ₽ | 5,22 | Запустить | ||
262 144 tensor |
2 | 839,97 ₽ | 24,57 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.