Qwen3.5-35B-A3B

размышляющая
мультимодальная
русскоязычная

Qwen3.5-35B-A3B — это средне-размерная MoE-модель с 35 миллиардами общих параметров и активацией лишь 3-х миллиардов на токен. Модель содержит 40 слоёв с размером скрытого представления 2048 и использует токенизацию с довольно большим vocab size равным 248 320. Гибридная архитектура внимания сочетает слои Gated DeltaNet (линейное внимание) для быстрой обработки длинных последовательностей и слои Gated Attention (полное внимание) для точного контекстуального понимания. Это позволяет модели поддерживать нативное контекстное окно в 262 144 токена без деградации качества. Визуально-языковые возможности встроены через early-fusion обучение, что обеспечивает лучшее понимание изображений по сравнению с серией Qwen3-VL. Модель поддерживает два режима работы: Thinking для глубоких рассуждений (математика, логика, код) и No-thinking для быстрых ответов на простые запросы. Инференс максимально оптимизирован, для развёртывания в квантованном формате на GPU требуется примерно 22–24 ГБ памяти.

Модель демонстрирует впечатляющие результаты на бенчмарках, лишь незначительно уступая флагманским версиям серии. В языковых тестах, таких как MMLU-Pro (85.3) и SuperGPQA (63.4), она обходит более крупные модели предыдущего поколения. Особо выделяются ее агентные способности: результат TAU2-Bench (81.2) является лучшим в семействе, что говорит о великолепной способности планировать и выполнять многошаговые задачи с использованием инструментов. В мультимодальном анализе она показывает результаты, близкие к топовым: MathVision (83.9), MMMU-Pro (75.1), OCRBench (91.0). Важно отметить, что именно эта модель лежит в основе сервиса Qwen3.5-Flash.

Уникальность модели — в ее универсальности и экономичности, плюс она выгодно отличается от предыдущих версий значительным скачком в производительности агентов и мультимодальном понимании. Этот вариант может стать отличным выбором для компаний, разрабатывающих сложных ассистентов, системы обработки заказов, интеллектуальные RAG-системы с огромными базами знаний, и в целом для любых сценариев, где нужно высокое качество понимания контекста и генерации при контролируемых разумных затратах на инфраструктуру.


Дата анонса: 24.02.2026
Параметров: 36B
Экспертов: 256
Активно параметров при инференсе: 3B
Контекст: 263K
Слоев: 40, с полным вниманием: 10
Тип внимания: Hybrid Attention
Тип Mamba: Gated Delta Net
Разработчик: Qwen
Версия Transformers: 4.57.0.dev0
Версия vLLM: 0.17.0
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с Qwen3.5-35B-A3B. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU TPS Tooling Статус Ссылка
Qwen/Qwen3.5-35B-A3B-GPTQ-Int4 263K Публичный 2×4090
tensor
227 да доступен чат

API доступ к Qwen3.5-35B-A3B эндпоинтам

curl https://chat.immers.cloud/v1/endpoints/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
--data-binary @- <<"EOF"
{"model": "qwen3.5-35b-a3b", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150
}
EOF
 
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json; charset=utf-8"
} `
-Body ([System.Text.Encoding]::UTF8.GetBytes((@{
model = "qwen3.5-35b-a3b"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" })
} | ConvertTo-Json -Depth 10)))
([System.Text.Encoding]::UTF8.GetString($response.RawContentStream.ToArray()) | ConvertFrom-Json).choices[0].message.content
 
#!pip install OpenAI --upgrade

from openai import OpenAI

client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/generate/",
)

chat_response = client.chat.completions.create(
model="qwen3.5-35b-a3b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)
 
# linux
export ANTHROPIC_BASE_URL=https://chat.immers.cloud/v1/endpoints/generate/
export ANTHROPIC_API_KEY=USER_API_KEY
export ANTHROPIC_MODEL=qwen3.5-35b-a3b

# windows (ps)
[Environment]::SetEnvironmentVariable("ANTHROPIC_BASE_URL", "https://chat.immers.cloud/v1/endpoints/generate/", "User")
[Environment]::SetEnvironmentVariable("ANTHROPIC_AUTH_TOKEN", "USER_API_KEY", "User")
[Environment]::SetEnvironmentVariable("ANTHROPIC_MODEL", "qwen3.5-35b-a3b", "User")
 
# linux
export OPENAI_BASE_URL=https://chat.immers.cloud/v1/endpoints/generate/
export OPENAI_API_KEY=USER_API_KEY
export OPENAI_MODEL=qwen3.5-35b-a3b

# windows (ps)
[Environment]::SetEnvironmentVariable("OPENAI_BASE_URL", "https://chat.immers.cloud/v1/endpoints/generate/", "User")
[Environment]::SetEnvironmentVariable("OPENAI_API_KEY", "USER_API_KEY", "User")
[Environment]::SetEnvironmentVariable("OPENAI_MODEL", "qwen3.5-35b-a3b", "User")
 

Частный эндпоинт

Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.

Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.

Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве.

Рекомендуемые конфигурации сервера для создания частного эндпоинта для инференса Qwen3.5-35B-A3B

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-2.16.64.160
262 144
tensor
2 83,37 ₽ 2,85 Запустить
teslaa2-3.32.128.160
262 144
pipeline
3 94,64 ₽ 1,51 Запустить
teslaa2-4.32.128.160
262 144
tensor
4 112,24 ₽ 2,06 Запустить
rtx3090-2.16.64.160
262 144
tensor
2 139,77 ₽ 100.12 3,23 Запустить
rtx3090-2.16.64.160.nvlink
262 144
tensor
2 139,77 ₽ 3,23 Запустить
rtx4090-2.16.64.160
262 144
tensor
2 171,77 ₽ 227.00 3,21 Запустить
teslaa100-1.16.64.160
262 144
1 211,77 ₽ 132.96 9,65 Запустить
rtx5090-2.16.64.160
262 144
tensor
2 261,77 ₽ 6,09 Запустить
h100-1.16.64.160
262 144
1 341,77 ₽ 153.60 9,70 Запустить
h100nvl-1.16.96.160
262 144
1 367,41 ₽ 189.85 12,23 Запустить
teslaa100-2.24.96.160.nvlink
262 144
tensor
2 411,81 ₽ 23,61 Запустить
h200-1.16.128.160
262 144
1 423,04 ₽ 20,67 Запустить
h200-2.24.256.160.nvlink
262 144
tensor
2 839,97 ₽ 45,76 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-3.16.96.160
262 144
pipeline
3 119,81 ₽ 2,45 Запустить
teslaa10-4.12.48.160
262 144
tensor
4 139,96 ₽ 3,50 Запустить
teslaa2-6.32.128.160
262 144
pipeline
6 147,44 ₽ 4,29 Запустить
rtx3090-3.16.96.160
262 144
pipeline
3 204,41 ₽ 138.25 2,85 Запустить
teslaa100-1.16.64.160
262 144
1 211,77 ₽ 154.74 6,91 Запустить
rtx4090-3.16.96.160
262 144
pipeline
3 252,41 ₽ 130.33 2,92 Запустить
rtx3090-4.16.64.160
262 144
tensor
4 257,77 ₽ 3,89 Запустить
rtx5090-2.16.64.160
262 144
tensor
2 261,77 ₽ 2,94 Запустить
rtx3090-4.16.128.160.nvlink
262 144
tensor
4 269,04 ₽ 3,89 Запустить
rtx4090-4.16.64.160
262 144
tensor
4 321,77 ₽ 3,87 Запустить
h100-1.16.64.160
262 144
1 341,77 ₽ 165.39 7,06 Запустить
h100nvl-1.16.96.160
262 144
1 367,41 ₽ 8,93 Запустить
teslaa100-2.24.96.160.nvlink
262 144
tensor
2 411,81 ₽ 20,46 Запустить
h200-1.16.128.160
262 144
1 423,04 ₽ 17,42 Запустить
h200-2.24.256.160.nvlink
262 144
tensor
2 839,97 ₽ 42,61 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
h100nvl-1.16.96.240
262 144
1 368,18 ₽ 180.34 3,46 Запустить
rtx5090-3.16.96.240
262 144
pipeline
3 388,18 ₽ 1,46 Запустить
h200-1.16.128.240
262 144
1 423,81 ₽ 11,89 Запустить
teslaa100-2.24.256.240
262 144
tensor
2 440,74 ₽ 114.38 14,79 Запустить
teslaa100-2.24.256.320.nvlink
262 144
tensor
2 441,52 ₽ 14,79 Запустить
rtx5090-4.16.128.320
262 144
tensor
4 514,59 ₽ 3,79 Запустить
rtx4090-6.44.256.240
262 144
pipeline
6 521,74 ₽ 7,13 Запустить
dedicated-rtx3090-8.64.128.960-1
262 144
tensor
8 539,21 ₽ 4,21 Запустить
rtx4090-8.44.256.240
262 144
tensor
8 671,74 ₽ 4,19 Запустить
h100-2.24.256.240
262 144
tensor
2 700,74 ₽ 14,76 Запустить
h200-2.24.256.240.nvlink
262 144
tensor
2 840,74 ₽ 36,94 Запустить

Связанные модели

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.

Мы используем файлы cookie и сервисы веб-аналитики для обеспечения работы сайта, анализа посещаемости и улучшения качества наших услуг.
Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности и даете согласие на обработку cookie-файлов и технических данных.