Qwen2.5-0.5B представляет собой наименьшую модель в серии с 500 миллионами параметров. Модель поддерживает контекстное окно длиной 32K токенов и может генерировать до 8K токенов за раз. Основным преимуществом этой модели является исключительно низкое энергопотребление и высокая скорость обработки при сохранении приемлемого качества выходных данных. Модель оптимизирована для развертывания на устройствах с ограниченными ресурсами, включая мобильные устройства, IoT системы и edge-вычисления. Несмотря на компактный размер, модель демонстрирует хорошие результаты в задачах понимания языка и базового рассуждения благодаря качественным данным предобучения объемом 18 триллионов токенов.
Qwen2.5-0.5B идеально подходит для интеграции в приложения, требующие быстрых ответов при ограниченной вычислительной мощности: чат-боты для веб-сайтов, мобильные ассистенты, системы автодополнения и базовая обработка текста. Модель также отлично работает как базовая модель для fine-tuning под специфические задачи с минимальными затратами на обучение и инференс.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 27,92 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 18,10 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 28,02 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 47,40 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 15,77 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 50,00 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 49,90 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 95,93 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 69,11 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 186,62 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 186,45 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 220,58 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 374,38 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 335,17 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 671,48 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 27,47 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 17,65 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 27,56 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 46,94 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 15,32 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 49,55 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 49,45 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 95,48 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 68,66 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 186,17 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 186,00 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 220,13 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 373,93 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 334,72 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 671,03 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 26,60 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 16,79 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 26,70 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 46,08 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 14,46 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 48,68 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 48,58 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 94,61 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 67,79 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 185,31 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 185,13 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 219,26 | Запустить | ||
32 768 tensor |
2 | 411,81 ₽ | 373,07 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 333,86 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 670,16 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.