Qwen3-30B-A3B

размышляющая
русскоязычная

Qwen3-30B-A3B представляет первую Mixture-of-Experts (MoE) в серии с общим количеством 30 миллиардов параметров, из которых только 3 миллиарда активируются для каждого токена. Модель построена на архитектуре с 48 слоями, 32 головами внимания и поддерживает контекстное окно в 128K токенов.

Модель использует инновационную архитектуру Mixture of Experts (MoE) со 128 экспертами, из которых на каждый токен активируются только 8. Это позволяет добиться эффективности инференса, сравнимой с компактными 3B-параметрическими моделями, при этом качество генерации приближается к уровню плотных 30B-моделей.  Ключевое преимущество MoE-подхода – оптимальное сочетание высокой производительности и энергоэффективности. Система динамически выбирает наиболее подходящих экспертов под конкретную задачу, что обеспечивает превосходное качество обработки при значительно меньших вычислительных затратах по сравнению с плотными аналогами аналогичного уровня. 

Qwen3-30B-A3B подходит для высоконагруженных систем, требующих баланса между качеством и производительностью: облачные API-сервисы, корпоративные чат-боты, системы автоматизации контента, многопользовательские AI-платформы. Модель идеально подходит для компаний, которым необходимо качество крупных моделей при ограниченном бюджете на вычисления.


Дата анонса: 29.04.2025
Параметров: 30.5B
Экспертов: 128
Активно параметров при инференсе: 3.3B
Контекст: 131K
Тип внимания: Full or Sliding Window Attention
Потребление памяти: 26.2 ГБ в точности 4 бит
Разработчик: Alibaba
Версия Transformers: 4.51.0
Версия Ollama: 0.6.6
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с Qwen3-30B-A3B.
Наименование модели Контекст Тип GPU TPS Статус Ссылка
Для данной модели пока нет публичных эндпоинтов.

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации для хостинга Qwen3-30B-A3B

Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa2-2.16.32.160 16 32768 160 2 51,34 ₽ Запустить
teslat4-2.16.32.160 16 32768 160 2 71,14 ₽ Запустить
teslaa10-2.16.64.160 16 65536 160 2 83,37 ₽ Запустить
rtx2080ti-3.16.64.160 16 65536 160 3 84,47 ₽ Запустить
teslav100-1.12.64.160 12 65536 160 1 107,57 ₽ Запустить
rtx3080-3.16.64.160 16 65536 160 3 127,37 ₽ Запустить
rtx5090-1.16.64.160 16 65536 160 1 141,77 ₽ Запустить
rtx3090-2.16.64.160 16 65536 160 2 149,37 ₽ Запустить
rtx4090-2.16.64.160 16 65536 160 2 195,57 ₽ Запустить
teslaa100-1.16.64.160 16 65536 160 1 230,77 ₽ Запустить
teslah100-1.16.64.160 16 65536 160 1 456,27 ₽ Запустить
Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa10-2.16.64.160 16 65536 160 2 83,37 ₽ Запустить
teslat4-4.16.64.160 16 65536 160 4 131,77 ₽ Запустить
rtx3090-2.16.64.160 16 65536 160 2 149,37 ₽ Запустить
rtx4090-2.16.64.160 16 65536 160 2 195,57 ₽ Запустить
teslav100-2.16.64.240 16 65535 240 2 198,54 ₽ Запустить
teslaa100-1.16.64.160 16 65536 160 1 230,77 ₽ Запустить
rtx5090-2.16.64.160 16 65536 160 2 261,77 ₽ Запустить
teslah100-1.16.64.160 16 65536 160 1 456,27 ₽ Запустить
Цены:
Наименование vCPU ОЗУ, МБ Диск, ГБ GPU Цена, час
teslaa10-4.16.128.160 16 131072 160 4 156,24 ₽ Запустить
teslaa100-1.16.128.160 16 131072 160 1 242,04 ₽ Запустить
rtx3090-4.16.128.160 16 131072 160 4 288,24 ₽ Запустить
rtx4090-4.16.128.160 16 131072 160 4 380,64 ₽ Запустить
rtx5090-3.16.96.160 16 98304 160 3 387,41 ₽ Запустить
teslah100-1.16.128.160 16 131072 160 1 467,54 ₽ Запустить

Связанные модели

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.