Gemma-3-27B

мультимодальная
русскоязычная
можно попробовать

Gemma 3 27B — это флагманская мультимодальная модель в семействе Gemma 3 от Google DeepMind, созданная для решения самых сложных задач в области искусственного интеллекта. Обладая 27 миллиардами параметров и контекстным окном до 128K токенов, модель сочетает высокую производительность с вычислительной эффективностью, демонстрируя state-of-the-art результаты как в текстовых, так и в мультимодальных задачах.

Модель основана на архитектуре, унаследованной от Gemini 2.0, и использует передовые методы дистилляции и оптимизированную структуру внимания, что позволяет ей работать даже на одном GPU, обеспечивая при этом производительность, сравнимую с моделями, требующими до 32 GPU. Благодаря расширенному контекстному окну, SigLIP-энкодеру и технологии "Pan&Scan", модель способна обрабатывать длинные документы, научные статьи и изображения в одном запросе без потери связности и качества ответов. Это делает её особенно полезной в юридическом и техническом анализе, медицинской диагностике и исследованиях контента с визуальными элементами. Gemma 3 27B поддерживает более 140 языков, а улучшенный токенизатор обеспечивая высокое качество перевода и кросс-языкового анализа.

Gemma 3 27B — это не просто очередная языковая модель. Это полноценный ИИ-ассистент нового поколения, сочетающий силу сверхбольших моделей с доступностью и гибкостью. Среди её конкурентов она выделяется уникальным сочетанием эффективности, мультимодальности, многоязычной поддержки и производительности на одной видеокарте.


Дата анонса: 12.03.2025
Параметров: 27B
Контекст: 131K
Тип внимания: Sliding Window Attention
Потребление памяти: 26.2 ГБ в точности 4 бит
Разработчик: Google DeepMind
Версия Transformers: 4.50.0.dev0
Версия Ollama: 0.6
Лицензия: gemma

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с Gemma-3-27B.
Наименование модели Контекст Тип GPU TPS Статус Ссылка
google/gemma-3-27b-it 128 000 Публичный 2×RTX4090 48.60 доступен попробовать

API доступ к Gemma-3-27B эндпоинтам

curl https://chat.immers.cloud/v1/endpoints/Gemma-3-27b-it/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "Gemma-3-27b-it", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/Gemma-3-27b-it/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "Gemma-3-27b-it"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade

from openai import OpenAI

client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/Gemma-3-27b-it/generate/",
)

chat_response = client.chat.completions.create(
model="Gemma-3-27b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации для хостинга Gemma-3-27B

Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa2-2.16.32.160 16 32768 160 2 51,34 ₽ Запустить
teslat4-2.16.32.160 16 32768 160 2 71,14 ₽ Запустить
teslaa10-2.16.64.160 16 65536 160 2 83,37 ₽ Запустить
rtx2080ti-3.16.64.160 16 65536 160 3 84,47 ₽ Запустить
teslav100-1.12.64.160 12 65536 160 1 107,57 ₽ Запустить
rtx3080-3.16.64.160 16 65536 160 3 127,37 ₽ Запустить
rtx5090-1.16.64.160 16 65536 160 1 141,77 ₽ Запустить
rtx3090-2.16.64.160 16 65536 160 2 149,37 ₽ Запустить
rtx4090-2.16.64.160 16 65536 160 2 195,57 ₽ Запустить
teslaa100-1.16.64.160 16 65536 160 1 230,77 ₽ Запустить
teslah100-1.16.64.160 16 65536 160 1 456,27 ₽ Запустить
Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa10-2.16.64.160 16 65536 160 2 83,37 ₽ Запустить
rtx2080ti-4.16.64.160 16 65536 160 4 105,37 ₽ Запустить
teslat4-4.16.64.160 16 65536 160 4 131,77 ₽ Запустить
rtx3090-2.16.64.160 16 65536 160 2 149,37 ₽ Запустить
rtx4090-2.16.64.160 16 65536 160 2 195,57 ₽ Запустить
teslav100-2.16.64.240 16 65535 240 2 198,54 ₽ Запустить
teslaa100-1.16.64.160 16 65536 160 1 230,77 ₽ Запустить
rtx5090-2.16.64.160 16 65536 160 2 261,77 ₽ Запустить
teslah100-1.16.64.160 16 65536 160 1 456,27 ₽ Запустить
Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa10-3.16.96.160 16 98304 160 3 119,81 ₽ Запустить
rtx3090-3.16.96.160 16 98304 160 3 218,81 ₽ Запустить
teslaa100-1.16.128.160 16 131072 160 1 242,04 ₽ Запустить
rtx4090-3.16.96.160 16 98304 160 3 288,11 ₽ Запустить
rtx5090-3.16.96.160 16 98304 160 3 387,41 ₽ Запустить
teslah100-1.16.128.160 16 131072 160 1 467,54 ₽ Запустить

Связанные модели

Gemma-3-1B
Gemma-3-4B
Gemma-3-12B

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.