QwQ

размышляющая
русскоязычная
можно попробовать

QwQ-32B — это инновационная языковая модель, разработанная Alibaba, с 32 миллиардами параметров и контекстным окном в 131K токенов. Она специализируется на глубоких рассуждениях и способна к многошаговому логическому анализу, что делает ее особенно эффективной при решении сложных задач, требующих структурированного мышления.

QwQ-32B была обучена основе передовых методов Reinforcement Learning, которые позволили значительно улучшить её способности к рассуждению, что позволяет модели показывать выдающиеся результаты в таких областях, как математические вычисления, программирование, анализ юридических документов. По производительности она не уступает DeepSeek-R1, которая имеет 671 миллиард параметров. Кроме того, QwQ-32B обладает возможностями агентного поведения, что позволяет ей адаптировать свои рассуждения на основе обратной связи, а также использовать различные инструменты для более точного анализа запросов.

Благодаря своему контекстному окну в 131 000 токенов, модель может обрабатывать объемные аналитические задачи и работать с многоэтапными логическими цепочками, что делает её незаменимой для научных исследований, образовательных приложений, поиска проблем в коде, сопоставления доводов в юридических документах и других задач, требующих максимального внимания к деталям.


Дата анонса: 06.03.2025
Параметров: 33B
Контекст: 132K
Слоев: 64
Тип внимания: Full or Sliding Window Attention
Разработчик: Qwen
Версия Transformers: 4.43.1
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с QwQ. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU TPS Tooling Статус Ссылка
Qwen/QwQ-32B 40 960 Публичный 2×RTX4090
tensor
 46.40 доступен чат

API доступ к QwQ эндпоинтам

curl https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "QwQ-32b", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "QwQ-32b"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade

from openai import OpenAI

client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/QwQ-32b/generate/",
)

chat_response = client.chat.completions.create(
model="QwQ-32b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации сервера для хостинга QwQ

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-3.16.96.160
131 072
pipeline
 3 119,81 ₽ 1,19 Запустить
teslaa10-4.16.64.160
131 072
tensor
 4 144,97 ₽ 1,78 Запустить
teslaa2-6.32.128.160
131 072
pipeline
 6 147,44 ₽ 1,63 Запустить
teslav100-2.16.64.240
131 072
tensor
 2 198,54 ₽ 1,04 Запустить
rtx3090-3.16.96.160
131 072
pipeline
 3 204,41 ₽ 1,19 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 1,78 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 1,57 Запустить
rtx4090-3.16.96.160
131 072
pipeline
 3 252,41 ₽ 1,19 Запустить
rtx3090-4.16.64.160
131 072
tensor
 4 257,77 ₽ 1,78 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 1,04 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 1,78 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 1,57 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 1,96 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 3,28 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa2-6.32.128.160
131 072
pipeline
 6 147,44 ₽ 1,29 Запустить
teslaa10-4.16.128.160
131 072
tensor
 4 156,24 ₽ 1,44 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 1,44 Запустить
teslaa100-1.16.128.160
131 072
 1 223,04 ₽ 1,23 Запустить
rtx3090-4.16.96.320
131 072
tensor
 4 264,96 ₽ 1,44 Запустить
rtx4090-4.16.96.320
131 072
tensor
 4 328,96 ₽ 1,44 Запустить
teslav100-3.64.256.320
131 072
pipeline
 3 347,52 ₽ 1,52 Запустить
h100-1.16.128.160
131 072
 1 353,04 ₽ 1,23 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 1,62 Запустить
rtx5090-3.16.96.160
131 072
pipeline
 3 387,41 ₽ 1,52 Запустить
teslav100-4.32.96.160
131 072
tensor
 4 388,21 ₽ 2,34 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 2,94 Запустить
rtx5090-4.16.128.160
131 072
tensor
 4 513,04 ₽ 2,34 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
rtxa5000-6.24.192.160.nvlink
131 072
pipeline
 6 312,70 ₽ 1,53 Запустить
rtxa5000-8.24.256.160.nvlink
131 072
tensor
 8 411,97 ₽ 2,73 Запустить
teslav100-4.32.256.160
131 072
tensor
 4 416,37 ₽ 1,24 Запустить
teslaa100-2.24.128.160.nvlink
131 072
tensor
 2 417,44 ₽ 2,29 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 1,84 Запустить
rtx5090-4.16.128.160
131 072
tensor
 4 513,04 ₽ 1,24 Запустить
rtx4090-6.44.256.160
131 072
pipeline
 6 520,97 ₽ 1,53 Запустить
rtx4090-8.44.256.160
131 072
tensor
 8 670,97 ₽ 2,73 Запустить
h100-2.24.256.160
131 072
tensor
 2 699,97 ₽ 2,29 Запустить
h100nvl-2.24.192.240
131 072
tensor
 2 729,47 ₽ 3,08 Запустить

Связанные модели

Qwen2-0.5B
Qwen2-1.5B
Qwen2-7B
Qwen2-72B
Qwen2.5-0.5B
Qwen2.5-1.5B
Qwen2.5-3B
Qwen2.5-7B
Qwen2.5-14B
Qwen2.5-32B
Qwen2.5-72B
Qwen2-57B-A14B
DeepSeek-R1-Distill-Qwen-32B
DeepSeek-R1-Distill-Qwen-1.5B
Qwen2.5-VL-3B
Qwen2.5-VL-7B
Qwen2.5-7B-1M
A-vision

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.