Gemma-3-27B

мультимодальная
русскоязычная
можно попробовать

Gemma 3 27B — это флагманская мультимодальная модель в семействе Gemma 3 от Google DeepMind, созданная для решения самых сложных задач в области искусственного интеллекта. Обладая 27 миллиардами параметров и контекстным окном до 128K токенов, модель сочетает высокую производительность с вычислительной эффективностью, демонстрируя state-of-the-art результаты как в текстовых, так и в мультимодальных задачах.

Модель основана на архитектуре, унаследованной от Gemini 2.0, и использует передовые методы дистилляции и оптимизированную структуру внимания, что позволяет ей работать даже на одном GPU, обеспечивая при этом производительность, сравнимую с моделями, требующими до 32 GPU. Благодаря расширенному контекстному окну, SigLIP-энкодеру и технологии "Pan&Scan", модель способна обрабатывать длинные документы, научные статьи и изображения в одном запросе без потери связности и качества ответов. Это делает её особенно полезной в юридическом и техническом анализе, медицинской диагностике и исследованиях контента с визуальными элементами. Gemma 3 27B поддерживает более 140 языков, а улучшенный токенизатор обеспечивая высокое качество перевода и кросс-языкового анализа.

Gemma 3 27B — это не просто очередная языковая модель. Это полноценный ИИ-ассистент нового поколения, сочетающий силу сверхбольших моделей с доступностью и гибкостью. Среди её конкурентов она выделяется уникальным сочетанием эффективности, мультимодальности, многоязычной поддержки и производительности на одной видеокарте.


Дата анонса: 12.03.2025
Параметров: 27B
Контекст: 132K
Слоев: 62, с полным вниманием: 10
Тип внимания: Sliding Window Attention
Разработчик: Google DeepMind
Версия Transformers: 4.50.0.dev0
Лицензия: gemma

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с Gemma-3-27B. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU TPS Tooling Статус Ссылка
RedHatAI/gemma-3-27b-it-quantized.w4a16 128 000 Публичный — 51.20 доступен чат

API доступ к Gemma-3-27B эндпоинтам

curl https://chat.immers.cloud/v1/endpoints/gemma3-27b-int4/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "Gemma-3-27b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/gemma3-27b-int4/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "Gemma-3-27b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade

from openai import OpenAI

client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/gemma3-27b-int4/generate/",
)

chat_response = client.chat.completions.create(
model="Gemma-3-27b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации сервера для хостинга Gemma-3-27B

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslat4-3.32.64.160
131 072
pipeline
 3 78,57 ₽ 1,17 Запустить
teslaa10-2.16.64.160
131 072
tensor
 2 83,37 ₽ 39,82 1,35 Запустить
teslat4-4.16.64.160
131 072
tensor
 4 85,77 ₽ 2,04 Запустить
teslaa2-3.32.128.160
131 072
pipeline
 3 94,64 ₽ 1,17 Запустить
rtxa5000-2.16.64.160.nvlink
131 072
tensor
 2 109,77 ₽ 44,97 1,35 Запустить
teslaa2-4.32.128.160
131 072
tensor
 4 112,24 ₽ 2,04 Запустить
rtx3090-2.16.64.160
131 072
tensor
 2 139,77 ₽ 38,37 1,35 Запустить
rtx4090-2.16.64.160
131 072
tensor
 2 171,77 ₽ 52,79 1,35 Запустить
teslav100-2.16.64.240
131 072
tensor
 2 198,54 ₽ 2,41 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 51,56 3,65 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 53,10 2,41 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 49,87 3,65 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 63,37 4,57 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 7,67 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslat4-4.16.64.160
131 072
tensor
 4 85,77 ₽ 1,64 Запустить
teslaa2-4.32.128.160
131 072
tensor
 4 112,24 ₽ 1,64 Запустить
teslaa10-3.16.96.160
131 072
pipeline
 3 119,81 ₽ 2,35 Запустить
teslaa10-4.12.48.160
131 072
tensor
 4 139,96 ₽ 3,75 Запустить
teslav100-2.16.64.240
131 072
tensor
 2 198,54 ₽ 2,01 Запустить
rtx3090-3.16.96.160
131 072
pipeline
 3 204,41 ₽ 2,35 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 3,75 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 3,25 Запустить
rtx4090-3.16.96.160
131 072
pipeline
 3 252,41 ₽ 2,35 Запустить
rtx3090-4.16.64.160
131 072
tensor
 4 257,77 ₽ 3,75 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 2,01 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 3,75 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 3,25 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 4,17 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 7,27 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa2-6.32.128.160
131 072
pipeline
 6 147,44 ₽ 1,25 Запустить
teslaa10-4.16.128.160
131 072
tensor
 4 156,24 ₽ 27,05 1,61 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 1,61 Запустить
teslaa100-1.16.128.160
131 072
 1 223,04 ₽ 23,64 1,11 Запустить
rtx3090-4.16.96.320
131 072
tensor
 4 264,96 ₽ 29,89 1,61 Запустить
rtx4090-4.16.96.320
131 072
tensor
 4 328,96 ₽ 40,92 1,61 Запустить
teslav100-3.64.256.320
131 072
pipeline
 3 347,52 ₽ 1,80 Запустить
h100-1.16.128.160
131 072
 1 353,04 ₽ 26,52 1,11 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 45,07 2,03 Запустить
rtx5090-3.16.96.160
131 072
pipeline
 3 387,41 ₽ 1,80 Запустить
teslav100-4.32.96.160
131 072
tensor
 4 388,21 ₽ 3,72 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 5,13 Запустить
rtx5090-4.16.128.160
131 072
tensor
 4 513,04 ₽ 3,72 Запустить

Связанные модели

Gemma-3-1B
Gemma-3-4B
Gemma-3-12B
gemma-3-270m

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.