Qwen2-1.5B является легковесной моделью с 1,5 млрд параметров, предлагающей оптимальный баланс между производительностью и эффективностью использования ресурсов.Модель включает 28 слоёв и использует группированное внимание запросов (GQA) с 12 головами запроса (query heads) и 2 общими головами ключ-значение (key-value heads), что обеспечивает эффективное управление памятью KV-кэша.
Обученная на 7 триллионах токенов многоязычных данных высокого качества, модель демонстрирует значительно улучшенные возможности в сравнении с предыдущими версиями, особенно в области программирования и математики. Модель поддерживает широкий спектр языков и показывает конкурентные результаты на стандартных бенчмарках, сохраняя при этом относительно низкие требования к вычислительным ресурсам.
Qwen2-1.5B отличается своей универсальностью и способностью эффективно работать как на потребительском железе, так и на небольших серверах. Модель поддерживает контекстное окно в 32K токенов, что позволяет обрабатывать довольно длинные документы и поддерживать сложные диалоги. Модель идеально подходит для извлечения информации из анализа документов, программирования начального уровня, образовательных приложений и корпоративных чат-ботов. Qwen2-1.5B представляет собой отличный выбор для пользователей, которым нужна стабильная языковая модель для простых задач без необходимости в дорогостоящей инфраструктуре GPU.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 46.79 | 10,38 | Запустить | |
32 768 |
1 | 46,94 ₽ | 108.23 | 18,70 | Запустить | |
32 768 |
1 | 51,34 ₽ | 5,13 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 293.00 | 20,20 | Запустить | |
32 768 |
1 | 91,14 ₽ | 189.44 | 19,76 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 42,90 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 27,99 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 183.47 | 78,35 | Запустить | |
32 768 |
1 | 341,77 ₽ | 78,28 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 92,91 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 160,01 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 142,02 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 287,34 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.