Qwen2.5-0.5B представляет собой наименьшую модель в серии с 500 миллионами параметров. Модель поддерживает контекстное окно длиной 32K токенов и может генерировать до 8K токенов за раз. Основным преимуществом этой модели является исключительно низкое энергопотребление и высокая скорость обработки при сохранении приемлемого качества выходных данных. Модель оптимизирована для развертывания на устройствах с ограниченными ресурсами, включая мобильные устройства, IoT системы и edge-вычисления. Несмотря на компактный размер, модель демонстрирует хорошие результаты в задачах понимания языка и базового рассуждения благодаря качественным данным предобучения объемом 18 триллионов токенов.
Qwen2.5-0.5B идеально подходит для интеграции в приложения, требующие быстрых ответов при ограниченной вычислительной мощности: чат-боты для веб-сайтов, мобильные ассистенты, системы автодополнения и базовая обработка текста. Модель также отлично работает как базовая модель для fine-tuning под специфические задачи с минимальными затратами на обучение и инференс.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.
Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.
Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 184.55 | 32,81 | Запустить | |
32 768 |
1 | 46,94 ₽ | 285.45 | 52,11 | Запустить | |
32 768 |
1 | 51,34 ₽ | 339.69 | 20,48 | Запустить | |
32 768 |
1 | 73,73 ₽ | 366.34 | 54,68 | Запустить | |
32 768 |
1 | 91,14 ₽ | 377.21 | 53,65 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 110,40 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 73,74 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 289.32 | 191,25 | Запустить | |
32 768 |
1 | 341,77 ₽ | 402.00 | 191,08 | Запустить | |
32 768 |
1 | 367,41 ₽ | 173.00 | 225,21 | Запустить | |
32 768 tensor |
2 | 411,81 ₽ | 383,65 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 339,80 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 680,75 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 110.32 | 30,54 | Запустить | |
32 768 |
1 | 46,94 ₽ | 269.81 | 49,76 | Запустить | |
32 768 |
1 | 51,34 ₽ | 305.95 | 18,96 | Запустить | |
32 768 |
1 | 73,73 ₽ | 272.34 | 52,31 | Запустить | |
32 768 |
1 | 91,14 ₽ | 264.12 | 52,10 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 107,97 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 72,30 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 282.40 | 188,80 | Запустить | |
32 768 |
1 | 341,77 ₽ | 253.29 | 188,28 | Запустить | |
32 768 |
1 | 367,41 ₽ | 240.71 | 222,35 | Запустить | |
32 768 tensor |
2 | 411,81 ₽ | 381,23 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 338,36 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 678,33 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 128.69 | 31,39 | Запустить | |
32 768 |
1 | 46,94 ₽ | 243.56 | 50,77 | Запустить | |
32 768 |
1 | 51,34 ₽ | 313.30 | 19,15 | Запустить | |
32 768 |
1 | 73,73 ₽ | 305.44 | 53,37 | Запустить | |
32 768 |
1 | 91,14 ₽ | 332.51 | 53,28 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 109,23 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 72,49 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 190,00 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 189,83 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 223,95 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 382,48 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 338,55 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 679,58 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.