Qwen2.5-7B представляет собой модель с 7 миллиардами параметров, 28 слоями и архитектурой 28/4 голов внимания, предлагая существенное расширение возможностей по сравнению с меньшими версиями. Ключевое преимущество этой модели - поддержка расширенного контекстного окна в 128K токенов при сохранении генерации до 8K токенов, что делает ее способной обрабатывать очень длинные документы и сохранять в памяти сложные многоэтапные задачи.
Qwen2.5-7B отличается значительно улучшенными способностями в математических вычислениях, программировании и логическом рассуждении благодаря включению специализированных данных в процесс предобучения. Также модель демонстрирует существенный прогресс в понимании структурированных данных, включая таблицы и JSON-форматы.
Qwen2.5-7B является оптимальным выбором для большинства бизнес-приложений, требующих высокого качества обработки естественного языка без чрезмерных требований к инфраструктуре. Модель превосходно подходит для автоматизации рабочих процессов, анализа длинных документов и построения интеллектуальных систем поддержки принятия решений.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 2,83 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 6,98 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 7,54 | Запустить | ||
32 768 tensor |
2 | 86,54 ₽ | 3,37 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 7,51 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 16,92 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 11,63 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 36,81 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 36,78 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 44,09 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 76,59 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 68,64 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 140,25 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 18,21 | 1,07 | Запустить | |
32 768 |
1 | 46,94 ₽ | 61,42 | 5,23 | Запустить | |
32 768 |
1 | 73,73 ₽ | 5,78 | Запустить | ||
32 768 tensor |
2 | 86,54 ₽ | 1,62 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 5,76 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 15,17 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 9,88 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 128,00 | 35,06 | Запустить | |
32 768 |
1 | 341,77 ₽ | 134,38 | 35,02 | Запустить | |
32 768 |
1 | 367,41 ₽ | 180,20 | 42,34 | Запустить | |
32 768 tensor |
2 | 411,81 ₽ | 74,84 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 66,89 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 138,50 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 46,94 ₽ | 1,84 | Запустить | ||
32 768 tensor |
2 | 51,34 ₽ | 3,47 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 2,39 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 2,37 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 11,78 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 6,49 | Запустить | ||
32 768 tensor |
4 | 162,57 ₽ | 4,56 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 31,67 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 31,63 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 38,95 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 71,45 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 63,50 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 135,11 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.