DeepSeek-V3

DeepSeek-V3 — была представлена 26.12.2014 китайской компанией DeepSeek AI и принесшая ей всемирную известность. Модель использует архитектуру Mixture-of-Experts (MoE), общей численностью параметров 671 миллиард, из которых для обработки каждого токена активируется лишь 37 миллиардов. Это обеспечивает высокую производительность и вычислительную эффективность.

Модель в текущей версии поддерживает контекстное окно до 164 тысяч токенов и демонстрирует отличные результаты в генерации текста в том числе на русском языке. Она хорошо справляется с задачами, требующими анализа длинных документов, создания сложного контента и работы с большими объёмами данных — например, автоматизация документации, отчётов, учебных материалов или юридических консультаций.

В тестах DeepSeek-V3 показала отличные результаты, особенно по математике и программированию, превосходя многие открытые модели и конкурируя с GPT-4o и Claude 3.5 Sonnet. Модель также успешно прошла тест Needle In A Haystack (NIAH) на длине контекста до 128K. Благодаря масштабируемости, качеству и открытой лицензии, DeepSeek-V3 является перспективным выбором для больших исследовательских и коммерческих проектов.

Дата анонса: 26.12.2024
Параметров: 671B
Экспертов: 16
Активно параметров при инференсе: 37B
Контекст: 164K
Тип внимания: Multi-head Latent Attention
Потребление памяти: 323.2 ГБ в точности 4 бит
Разработчик: DeepSeek
Версия Transformers: 4.33.1
Версия Ollama: 0.5.5
Лицензия: MIT

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с DeepSeek-V3.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.