Llama 4 Maverick — это универсальная модель в новом поколении семейства Llama 4, вышедшем в апреле 2025 года. В отличие от более компактного Scout, Maverick создан для тех, кому требуется максимальная производительность и вычислительная мощность. Модель использует архитектуру MoE с 128 экспертами, имеет 400 миллиардов параметров в общей сложности – это делает ее одной из самых масштабных открытых моделей на рынке. Однако на каждом шаге активными являются только 17 миллиардов параметров, что существенно уменьшает задержки на выводе и снижает требования по ресурсам. Как и все модели серии Maverik поддерживает нативную мультимодальность, что позволяет легко подавать на вход и обрабатывать изображения совместно с текстом поддержка изображений.
Благодаря своей масштабной архитектуре Maverick предлагает последовательность и глубину рассуждений, точность и безопасность ответов. Модель демонстрирует достойные результаты в сложных задачах логического мышления, математики и программирования, опережая предыдущие поколения LLM и основных конкурентов по ряду ключевых метрик.
В состав модели входят передовые разработки для обеспечения безопасности: Llama Guard 4 (12B) — для фильтрации небезопасного контента и Llama Prompt Guard 2 (22M и 86M) — для защиты от манипулятивных или вредоносных входных данных.
Llama 4 Maverick идеально подходит для сложных корпоративных решений и масштабных проектов, где требуется глубокое понимание и точное исполнение задач.
| Наименование модели | Контекст | Тип | GPU | TPS | Статус | Ссылка |
|---|---|---|---|---|---|---|
| RedHatAI/Llama-4-Maverick-17B-128E-Instruct-quantized.w4a16 | 250 000 | Публичный | 4×TeslaA100 | 37.97 | доступен | попробовать |
curl https://chat.immers.cloud/v1/endpoints/Llama-4-Maverick-2025-21-07/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "Llama-4-Maverick-17B-128E-Instruct", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/Llama-4-Maverick-2025-21-07/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "Llama-4-Maverick-17B-128E-Instruct"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/Llama-4-Maverick-2025-21-07/generate/",
)
chat_response = client.chat.completions.create(
model="Llama-4-Maverick-17B-128E-Instruct",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU | |||
|---|---|---|---|---|---|---|---|
| 32 | 393216 | 320 | 3 | 715,44 ₽ | Запустить | ||
| 32 | 393216 | 320 | 3 | 1 391,94 ₽ | Запустить | ||
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU |
|---|
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU |
|---|
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.