DeepSeek-R1-Distill-Qwen-1.5B

DeepSeek-R1-Distill-1.5B — это самая компактная из дистиллированных моделей семейства DeepSeek-R1, построенная на архитектуре Qwen2.5-1.5B. Несмотря на небольшой размер она смогла унаследовать модели учителя - DeepSeek-R1 базовые навыки рассуждения. Модель прошла тонкую настройку на данных, сгенерированных DeepSeek-R1, что позволило ей существенно превзойти другие открытые модели аналогичного размера по ряду reasoning-бенчмарков.

Технически, 1.5B-вариант оптимизирован для работы на устройствах с ограниченными вычислительными ресурсами, таких как ноутбуки, мобильные устройства и edge-сервера. Она обеспечивает быстрый отклик и низкое энергопотребление, что делает её идеальной для офлайн-приложений и интеграции в пользовательские продукты с жесткими требованиями по скорости отклика.

В сценариях использования DeepSeek-R1-Distill-1.5B отлично подходит для задач базового анализа текста, генерации коротких ответов, автоматизации рутинных операций (например, обработки обращений в службу поддержки) и образовательных приложений, где требуется компактная, но достаточно умная модель.Несмотря на ограничения по размеру, модель демонстрирует хорошие результаты в задачах с простыми логическими операциями. Это делает её отличным выбором для приложений, где важна скорость и минимальное потребление ресурсов.

Дата анонса: 20.01.2025
Параметров: 1.78B
Контекст: 131K
Тип внимания: Full or Sliding Window Attention
Потребление памяти: 4.3 ГБ в точности 4 бит
Разработчик: DeepSeek
Версия Transformers: 4.44.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с DeepSeek-R1-Distill-Qwen-1.5B.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.