QwQ-32B — это инновационная языковая модель, разработанная Alibaba, с 32 миллиардами параметров и контекстным окном в 40K токенов. Она специализируется на глубоких рассуждениях и способна к многошаговому логическому анализу, что делает ее особенно эффективной при решении сложных задач, требующих структурированного мышления.
QwQ-32B была обучена основе передовых методов Reinforcement Learning, которые позволили значительно улучшить её способности к рассуждению, что позволяет модели показывать выдающиеся результаты в таких областях, как математические вычисления, программирование, анализ юридических документов. По производительности она не уступает DeepSeek-R1, которая имеет 671 миллиард параметров. Кроме того, QwQ-32B обладает возможностями агентного поведения, что позволяет ей адаптировать свои рассуждения на основе обратной связи, а также использовать различные инструменты для более точного анализа запросов.
Благодаря своему контекстному окну в 131 000 токенов, модель может обрабатывать объемные аналитические задачи и работать с многоэтапными логическими цепочками, что делает её незаменимой для научных исследований, образовательных приложений, поиска проблем в коде, сопоставления доводов в юридических документах и других задач, требующих максимального внимания к деталям.
| Наименование модели | Контекст | Тип | GPU | TPS | Tooling | Статус | Ссылка |
|---|---|---|---|---|---|---|---|
| Qwen/QwQ-32B | 40 960 | Публичный | 2×RTX4090 tensor |
46.40 | доступен | чат |
curl https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "QwQ-32b", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "QwQ-32b"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/",
)
chat_response = client.chat.completions.create(
model="QwQ-32b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
40 960 pipeline |
3 | 78,95 ₽ | 1,64 | Запустить | ||
40 960 tensor |
4 | 99,74 ₽ | 1,03 | Запустить | ||
40 960 tensor |
2 | 109,77 ₽ | 1,89 | Запустить | ||
40 960 tensor |
4 | 115,35 ₽ | 2,83 | Запустить | ||
40 960 pipeline |
3 | 117,17 ₽ | 1,64 | Запустить | ||
40 960 tensor |
4 | 127,45 ₽ | 2,83 | Запустить | ||
40 960 tensor |
4 | 156,24 ₽ | 5,71 | Запустить | ||
40 960 tensor |
2 | 171,77 ₽ | 1,89 | Запустить | ||
40 960 |
1 | 211,77 ₽ | 5,02 | Запустить | ||
40 960 tensor |
2 | 261,77 ₽ | 3,33 | Запустить | ||
40 960 tensor |
4 | 269,04 ₽ | 5,71 | Запустить | ||
40 960 |
1 | 341,77 ₽ | 5,02 | Запустить | ||
40 960 |
1 | 367,41 ₽ | 6,28 | Запустить | ||
40 960 tensor |
2 | 439,97 ₽ | 11,97 | Запустить | ||
40 960 tensor |
2 | 839,97 ₽ | 22,95 | Запустить | ||
40 960 tensor |
4 | 1 717,59 ₽ | 47,83 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
40 960 tensor |
4 | 115,35 ₽ | 1,73 | Запустить | ||
40 960 tensor |
4 | 127,45 ₽ | 1,73 | Запустить | ||
40 960 tensor |
4 | 156,24 ₽ | 4,61 | Запустить | ||
40 960 tensor |
4 | 209,04 ₽ | 4,61 | Запустить | ||
40 960 |
1 | 211,77 ₽ | 3,92 | Запустить | ||
40 960 pipeline |
3 | 252,41 ₽ | 2,70 | Запустить | ||
40 960 tensor |
2 | 261,77 ₽ | 2,23 | Запустить | ||
40 960 tensor |
4 | 269,04 ₽ | 4,61 | Запустить | ||
40 960 tensor |
4 | 321,77 ₽ | 4,61 | Запустить | ||
40 960 |
1 | 341,77 ₽ | 3,92 | Запустить | ||
40 960 |
1 | 367,41 ₽ | 5,18 | Запустить | ||
40 960 tensor |
2 | 439,97 ₽ | 10,87 | Запустить | ||
40 960 tensor |
2 | 839,97 ₽ | 21,85 | Запустить | ||
40 960 tensor |
4 | 1 717,59 ₽ | 46,73 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
40 960 tensor |
4 | 157,01 ₽ | 1,08 | Запустить | ||
40 960 tensor |
4 | 264,96 ₽ | 1,08 | Запустить | ||
40 960 tensor |
4 | 328,96 ₽ | 1,08 | Запустить | ||
40 960 |
1 | 368,18 ₽ | 1,65 | Запустить | ||
40 960 pipeline |
3 | 388,18 ₽ | 1,33 | Запустить | ||
40 960 tensor |
2 | 440,74 ₽ | 7,34 | Запустить | ||
40 960 tensor |
2 | 441,52 ₽ | 7,34 | Запустить | ||
40 960 tensor |
4 | 514,59 ₽ | 3,96 | Запустить | ||
40 960 tensor |
2 | 700,74 ₽ | 7,34 | Запустить | ||
40 960 tensor |
2 | 840,74 ₽ | 18,32 | Запустить | ||
40 960 tensor |
4 | 1 717,59 ₽ | 43,20 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.