DeepSeek-R1-Distill-Qwen-32B

русскоязычная

DeepSeek-R1-Distill-32B — дистиллированная модель, построенная на базе Qwen2.5-32B вобравшая в себя лучшие reasoning-алгоритмы DeepSeek-R1 и экспертные знания. Она устанавливает новые рекорды среди открытых dense-моделей по ряду reasoning-бенчмарков: AIME 2024–72.6%, MATH-500–94.3% и т.д. Модель практически ничем не уступает дистиллированной версии в 70 млрд параметров, а по некоторым тестам даже превосходит ее.

Технически модель предназначена для решения задач экспертного уровня: сложные математические вычисления, генерация и анализ кода, научные исследования, обработка длинных и сложных контекстов. DeepSeek-R1-Distill-32B может быть интегрирована в корпоративные системы, облачные сервисы и платформы для автоматизации интеллектуального труда. В пользовательских сценариях модель незаменима для построения экспертных систем, научных ассистентов, платформ для автоматизации сложных бизнес-процессов и образовательных решений, требующих хороших объяснений в ответе.

DeepSeek-R1-Distill-32B — выбор для тех, кто ищет максимальную производительность среди открытых моделей без необходимости перехода к самым тяжеловесным системам.


Дата анонса: 20.01.2025
Параметров: 33B
Контекст: 132K
Слоев: 64
Тип внимания: Full or Sliding Window Attention
Разработчик: DeepSeek
Версия Transformers: 4.43.1
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с DeepSeek-R1-Distill-Qwen-32B. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU Статус Ссылка
Для данной модели пока нет публичных эндпоинтов.

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации сервера для хостинга DeepSeek-R1-Distill-Qwen-32B

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa2-6.32.128.480
131 072
pipeline
 6 150,55 ₽ 1,63 Запустить
teslaa10-4.16.128.160
131 072
tensor
 4 156,24 ₽ 1,79 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 1,79 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 1,57 Запустить
rtx4090-3.16.96.160
131 072
pipeline
 3 252,41 ₽ 1,19 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 1,04 Запустить
rtx3090-4.16.128.160
131 072
tensor
 4 269,04 ₽ 1,79 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 1,79 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 1,57 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 1,97 Запустить
teslaa100-2.24.256.160.nvlink
131 072
tensor
 2 439,97 ₽ 3,74 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
 2 839,97 ₽ 7,17 Запустить
h200-4.32.768.480
131 072
tensor
 4 1 717,59 ₽ 14,95 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa2-6.32.128.480
131 072
pipeline
 6 150,55 ₽ 1,23 Запустить
teslaa10-4.16.128.160
131 072
tensor
 4 156,24 ₽ 1,39 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 1,39 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 1,17 Запустить
rtx3090-4.16.128.160
131 072
tensor
 4 269,04 ₽ 1,39 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 1,39 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 1,17 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 1,57 Запустить
rtx5090-3.16.96.160
131 072
pipeline
 3 387,41 ₽ 1,47 Запустить
teslaa100-2.24.256.160.nvlink
131 072
tensor
 2 439,97 ₽ 3,34 Запустить
rtx5090-4.32.128.160
131 072
tensor
 4 521,84 ₽ 2,29 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
 2 839,97 ₽ 6,78 Запустить
h200-4.32.768.480
131 072
tensor
 4 1 717,59 ₽ 14,55 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa100-2.24.256.240
131 072
tensor
 2 440,74 ₽ 2,30 Запустить
teslaa100-2.24.256.320.nvlink
131 072
tensor
 2 441,52 ₽ 2,30 Запустить
rtx5090-4.16.128.320
131 072
tensor
 4 514,59 ₽ 1,24 Запустить
rtx4090-6.44.256.240
131 072
pipeline
 6 521,74 ₽ 1,53 Запустить
rtx4090-8.44.256.480
131 072
tensor
 8 674,08 ₽ 2,73 Запустить
h100-2.24.256.240
131 072
tensor
 2 700,74 ₽ 2,30 Запустить
h200-2.24.256.240.nvlink
131 072
tensor
 2 840,74 ₽ 5,73 Запустить
h100nvl-3.24.384.960
131 072
pipeline
 3 1 110,26 ₽ 5,65 Запустить
h100nvl-4.32.384.480
131 072
tensor
 4 1 450,00 ₽ 8,21 Запустить
h200-4.32.768.480
131 072
tensor
 4 1 717,59 ₽ 13,50 Запустить

Связанные модели

QwQ-32B
Qwen2-0.5B-Instruct
Qwen2-1.5B-Instruct
Qwen2-7B-Instruct
Qwen2-72B-Instruct
Qwen2.5-0.5B-Instruct
Qwen2.5-1.5B-Instruct
Qwen2.5-3B-Instruct
Qwen2.5-7B-Instruct
Qwen2.5-14B-Instruct
Qwen2.5-32B-Instruct
Qwen2.5-72B-Instruct
Qwen2-57B-A14B-Instruct
DeepSeek-R1-Distill-Qwen-1.5B
Qwen2.5-VL-3B-Instruct
Qwen2.5-VL-7B-Instruct
Qwen2.5-7B-Instruct-1M
avision

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.