Qwen3.5-0.8B

Модель Qwen3.5-0.8B ультракомпактная – и самая маленькая в линейке qwen 3.5, но при этом они сохраняет все технические новеллы и преимущества серии. Ее архитектура построена на гибридном подходе, объединяющем два ключевых механизма: Gated DeltaNet и Gated Attention, расположенных в 24 слоях по схеме 6 × (3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN)). Это позволяет модели эффективно сжимать и обрабатывать длинные последовательности с меньшими вычислительными затратами по сравнению с традиционным Transformer'ом. Она поддерживает предсказание нескольких токенов (MTP) и поставляется с готовой интеграцией для популярных фреймворков инференса, таких как vLLM, SGLang и Transformers.

Уникальность Qwen3.5-0.8B заключается в ее способности быть по-настоящему мультимодальной, сохраняя при этом экстремально малый размер (0.8B параметров). В отличие от предыдущей версии Qwen3-0.6B, которая была чисто текстовой, новая модель интегрирует vision-энкодер и обучена на ранней стадии на смешанных мультимодальных данных. Это позволяет ей не просто читать текст на изображениях, но и понимать сложные визуальные сцены, диаграммы и даже видео. Модель поддерживает 201 языка, режим рассуждений (thinking mode), улучшенное следование инструкциям и нативный контекст в 262 144 токена, что является рекордным показателем для моделей такого размера.

Благодаря своей архитектуре и производительности, Qwen3.5-0.8B открывает широкий спектр возможностей для разработчиков и исследователей. Быстрое прототипирование и Research - идеальная "песочница" для тестирования идей, промпт-инжиниринга и экспериментов с длинным контекстом без необходимости в дорогостоящем оборудовании.

Дата анонса: 28.02.2026
Параметров: 874M
Контекст: 263K
Слоев: 24, с полным вниманием: 6
Тип внимания: Hybrid Attention
Тип Mamba: Gated Delta Net
Разработчик: Qwen
Версия Transformers: 4.57.0.dev0
Версия vLLM: 0.17.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с Qwen3.5-0.8B. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.