Qwen3-235B-A22B-Instruct-2507 представляет собой обновление флагманской MoE модели серии Qwen 3. Эта 235-миллиардная модель активирует лишь 22 миллиарда параметров на каждом шаге инференса. Архитектура построена на 94 трансформерных слоях с 128 экспертами, из которых активируются только 8 при обработке каждого токена.
В отличие от предыдущих версий Qwen, новая 2507-модель полностью отказалась от гибридного режима мышления в пользу высокооптимизированного non-thinking mode. Это решение принято на основе обратной связи от пользователей, которые предпочитали быструю работу модели без генерации <think> блоков. Результатом стало кардинальное повышение скорости ответов и улучшение их качества. В математических бенчмарках модель показала феноменальные улучшения: AIME25 (70.3 против 24.7 у предыдущей версии), HMMT25 (55.4 против 10.0). Особенно впечатляющим стал результат в ZebraLogic (95.0) — практически идеальная точность в логических рассуждениях. В программировании модель также значительно опережает предыдущую версию, достигнув лидирующих результатов в LiveCodeBench и MultiPL-E. И в целом по многим бенчмаркам результаты модели превосходят GPT-4o, DeepSeek-V3 и Kimi K2 и других лидеров.
Разработчики так же выпустили Qwen3-235B-A22B-Instruct-2507-FP8 - версию с FP8 квантизацией. Эта инновационная техника обеспечивает снижение требований к памяти на ~50% при практически полном сохранении качества модели. FP8 формат превосходит традиционные INT8 подходы, особенно для крупных моделей, обеспечивая лучший баланс точности и производительности.
Еще одним технологическим улучшением Qwen3-235B-A22B-Instruct-2507 является нативная поддержка контекста длиной 262144 токена. Эта возможность открывает совершенно новые сценарии использования: от анализа объемных документов и кода до проведения многочасовых диалогов с сохранением понимания и высокой точности ответов при заполнении контекста. Таким образом, есть все основания полагать, что новая модель Qwen3-235B-A22B-Instruct-2507 претендует на звание лучшего open-source решения для широкого круга задач в enterprise компаниях.
| Наименование модели | Контекст | Тип | GPU | TPS | Статус | Ссылка |
|---|---|---|---|---|---|---|
| chriswritescode/Qwen3-235B-A22B-Instruct-2507-INT4-W4A16 | 125 600 | Публичный | 2×TeslaH100 | доступен | попробовать |
curl https://chat.immers.cloud/v1/endpoints/Qwen3-235B-A22B-Instruct-2507-optimized/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
-d '{"model": "Qwen-3-235B-A22B-Instruct", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150}'
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/Qwen3-235B-A22B-Instruct-2507-optimized/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json"
} `
-Body (@{
model = "Qwen-3-235B-A22B-Instruct"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" }
)
} | ConvertTo-Json)
($response.Content | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade
from openai import OpenAI
client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/Qwen3-235B-A22B-Instruct-2507-optimized/generate/",
)
chat_response = client.chat.completions.create(
model="Qwen-3-235B-A22B-Instruct",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU | |||
|---|---|---|---|---|---|---|---|
| 32 | 393216 | 240 | 3 | 714,66 ₽ | Запустить | ||
| 44 | 262144 | 240 | 8 | 766,94 ₽ | Запустить | ||
| 44 | 262144 | 240 | 6 | 791,74 ₽ | Запустить | ||
| 32 | 393216 | 240 | 3 | 1 391,16 ₽ | Запустить | ||
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU | |||
|---|---|---|---|---|---|---|---|
| 44 | 524288 | 320 | 4 | 953,57 ₽ | Запустить | ||
| 44 | 524288 | 320 | 4 | 1 855,57 ₽ | Запустить | ||
| Наименование | vCPU | ОЗУ, МБ | Диск, ГБ | GPU |
|---|
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.