Qwen2-72B — флагманская модель серии с 72 миллиардами параметров, архитектура которой включает 80 слоёв со скрытым размером 8192 и реализует механизм Grouped Query Attention с 64 головами запросов и 8 общими головами ключ-значение, что в сочетании с технологиями Dual Chunk Attention и YARN обеспечивает максимальную производительность при обработке длинных контекстов и эффективное управление KV-кэшем.
Модель обучена на высококачественном датасете объемом 7 триллионов токенов с максимальным разнообразием данных. Базовая версия модели демонстрирует выдающиеся результаты на ключевых бенчмарках: 84.2 на MMLU, 37.9 на GPQA, 64.6 на HumanEval, 89.5 на GSM8K, и 82.4 на BBH1. Инструктированная версия Qwen2-72B-Instruct достигает 9.1 на MT-Bench, 48.1 на Arena-Hard, и 35.7 на LiveCodeBench, что ставит ее в один ряд с ведущими проприетарными моделями.
Qwen2-72B обладает исключительными способностями к сложным рассуждениям, пошаговому решению задач, продвинутому программированию и глубокому пониманию контекста. Многоязычные возможности модели позволяют ей работать на профессиональном уровне более чем с 30 языками включая русский. Соответственно она предназначена для самых требовательных к эффективности ИИ кейсов: научные исследования высокого уровня, сложная разработка программного обеспечения, создание высококачественного профессионального контента, продвинутый анализ данных, автоматизация сложных бизнес-процессов и создание интеллектуальных систем принятия решений.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 pipeline |
3 | 657,66 ₽ | 7,08 | Запустить | ||
32 768 tensor |
8 | 671,74 ₽ | 1,13 | Запустить | ||
32 768 tensor |
2 | 729,47 ₽ | 2,93 | Запустить | ||
32 768 pipeline |
6 | 791,74 ₽ | 1,06 | Запустить | ||
32 768 tensor |
4 | 816,34 ₽ | 14,30 | Запустить | ||
32 768 tensor |
2 | 840,74 ₽ | 11,52 | Запустить | ||
32 768 tensor |
2 | 840,74 ₽ | 11,52 | Запустить | ||
32 768 tensor |
4 | 848,44 ₽ | 14,30 | Запустить | ||
32 768 tensor |
8 | 1 031,74 ₽ | 6,90 | Запустить | ||
32 768 pipeline |
3 | 1 047,66 ₽ | 12.82 | 7,06 | Запустить | |
32 768 tensor |
4 | 1 336,34 ₽ | 52.00 | 14,28 | Запустить | |
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.