DeepSeek-R1-Distill-Qwen-32B

русскоязычная

DeepSeek-R1-Distill-32B — дистиллированная модель, построенная на базе Qwen2.5-32B вобравшая в себя лучшие reasoning-алгоритмы DeepSeek-R1 и экспертные знания. Она устанавливает новые рекорды среди открытых dense-моделей по ряду reasoning-бенчмарков: AIME 2024–72.6%, MATH-500–94.3% и т.д. Модель практически ничем не уступает дистиллированной версии в 70 млрд параметров, а по некоторым тестам даже превосходит ее.

Технически модель предназначена для решения задач экспертного уровня: сложные математические вычисления, генерация и анализ кода, научные исследования, обработка длинных и сложных контекстов. DeepSeek-R1-Distill-32B может быть интегрирована в корпоративные системы, облачные сервисы и платформы для автоматизации интеллектуального труда. В пользовательских сценариях модель незаменима для построения экспертных систем, научных ассистентов, платформ для автоматизации сложных бизнес-процессов и образовательных решений, требующих хороших объяснений в ответе.

DeepSeek-R1-Distill-32B — выбор для тех, кто ищет максимальную производительность среди открытых моделей без необходимости перехода к самым тяжеловесным системам.


Дата анонса: 20.01.2025
Параметров: 33B
Контекст: 132K
Слоев: 64
Тип внимания: Full or Sliding Window Attention
Разработчик: DeepSeek
Версия Transformers: 4.43.1
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с DeepSeek-R1-Distill-Qwen-32B. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU Статус Ссылка
Для данной модели пока нет публичных эндпоинтов.

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации сервера для хостинга DeepSeek-R1-Distill-Qwen-32B

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-3.16.96.160
131 072
pipeline
3 119,81 ₽ 1,13 Запустить
teslaa10-4.16.64.160
131 072
tensor
4 144,97 ₽ 1,72 Запустить
teslaa2-6.32.128.160
131 072
pipeline
6 147,44 ₽ 1,47 Запустить
rtx3090-3.16.96.160
131 072
pipeline
3 204,41 ₽ 1,22 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
4 209,04 ₽ 1,72 Запустить
teslaa100-1.16.64.160
131 072
1 211,77 ₽ 1,64 Запустить
rtx4090-3.16.96.160
131 072
pipeline
3 252,41 ₽ 1,22 Запустить
rtx3090-4.16.64.160
131 072
tensor
4 257,77 ₽ 1,84 Запустить
rtx5090-2.16.64.160
131 072
tensor
2 261,77 ₽ 1,09 Запустить
rtx4090-4.16.64.160
131 072
tensor
4 321,77 ₽ 1,83 Запустить
h100-1.16.64.160
131 072
1 341,77 ₽ 1,64 Запустить
h100nvl-1.16.96.160
131 072
1 367,41 ₽ 2,04 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
2 411,81 ₽ 3,84 Запустить
h200-1.16.128.160
131 072
1 423,04 ₽ 3,38 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
2 839,97 ₽ 7,32 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-4.16.64.160
131 072
tensor
4 144,97 ₽ 1,28 Запустить
teslaa2-6.32.128.160
131 072
pipeline
6 147,44 ₽ 1,02 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
4 209,04 ₽ 1,28 Запустить
teslaa100-1.16.64.160
131 072
1 211,77 ₽ 1,20 Запустить
rtx3090-4.16.64.160
131 072
tensor
4 257,77 ₽ 1,40 Запустить
rtx4090-4.16.64.160
131 072
tensor
4 321,77 ₽ 1,39 Запустить
h100-1.16.64.160
131 072
1 341,77 ₽ 1,20 Запустить
h100nvl-1.16.96.160
131 072
1 367,41 ₽ 1,60 Запустить
rtx5090-3.16.96.160
131 072
pipeline
3 387,41 ₽ 1,44 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
2 411,81 ₽ 3,40 Запустить
h200-1.16.128.160
131 072
1 423,04 ₽ 2,94 Запустить
rtx5090-4.16.128.160
131 072
tensor
4 513,04 ₽ 2,29 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
2 839,97 ₽ 6,88 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
dedicated-rtx3090-8.64.128.960-1
131 072
tensor
8 2,89 Запустить
h200-1.16.128.240
131 072
1 423,81 ₽ 2,03 Запустить
teslaa100-2.24.256.240
131 072
tensor
2 440,74 ₽ 2,49 Запустить
teslaa100-2.24.256.320.nvlink
131 072
tensor
2 441,52 ₽ 2,49 Запустить
rtx5090-4.16.128.320
131 072
tensor
4 514,59 ₽ 1,39 Запустить
rtx4090-6.44.256.240
131 072
pipeline
6 521,74 ₽ 1,62 Запустить
rtx4090-8.44.256.240
131 072
tensor
8 671,74 ₽ 2,88 Запустить
h100-2.24.256.240
131 072
tensor
2 700,74 ₽ 2,49 Запустить
h100nvl-2.24.192.240
131 072
tensor
2 729,47 ₽ 3,29 Запустить
h200-2.24.256.240.nvlink
131 072
tensor
2 840,74 ₽ 5,98 Запустить

Связанные модели

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.