Qwen2-1.5B является легковесной моделью с 1,5 млрд параметров, предлагающей оптимальный баланс между производительностью и эффективностью использования ресурсов.Модель включает 28 слоёв и использует группированное внимание запросов (GQA) с 12 головами запроса (query heads) и 2 общими головами ключ-значение (key-value heads), что обеспечивает эффективное управление памятью KV-кэша.
Обученная на 7 триллионах токенов многоязычных данных высокого качества, модель демонстрирует значительно улучшенные возможности в сравнении с предыдущими версиями, особенно в области программирования и математики. Модель поддерживает широкий спектр языков и показывает конкурентные результаты на стандартных бенчмарках, сохраняя при этом относительно низкие требования к вычислительным ресурсам.
Qwen2-1.5B отличается своей универсальностью и способностью эффективно работать как на потребительском железе, так и на небольших серверах. Модель поддерживает контекстное окно в 32K токенов, что позволяет обрабатывать довольно длинные документы и поддерживать сложные диалоги. Модель идеально подходит для извлечения информации из анализа документов, программирования начального уровня, образовательных приложений и корпоративных чат-ботов. Qwen2-1.5B представляет собой отличный выбор для пользователей, которым нужна стабильная языковая модель для простых задач без необходимости в дорогостоящей инфраструктуре GPU.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.
Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.
Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 46.79 | 10,85 | Запустить | |
32 768 |
1 | 46,94 ₽ | 108.23 | 19,06 | Запустить | |
32 768 |
1 | 51,34 ₽ | 152.43 | 5,56 | Запустить | |
32 768 |
1 | 73,73 ₽ | 293.00 | 20,20 | Запустить | |
32 768 |
1 | 91,14 ₽ | 189.44 | 20,18 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 43,85 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 28,41 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 183.47 | 78,78 | Запустить | |
32 768 |
1 | 341,77 ₽ | 78,70 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 93,33 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 160,96 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 142,44 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 288,29 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.