Qwen2-0.5B представляет собой ультра-компактную языковую модель с 0,5 млрд параметров, специально разработанную для развертывания на мобильных и IoT устройствах. Модель использует GQA и tie embedding для оптимизации производительности, эта архитектурная особенность позволяет значительно снизить потребление энергии и задействование памяти при инференсе.
Модель обучена на высококачественном многоязычном датасете объемом 12 триллионов токенов, что обеспечивает ее способность работать с примерно 30 языками, включая русский и ряд довольно редких языков. Несмотря на компактный размер, модель демонстрирует отличные результаты в базовых языковых задачах. Однако основным преимуществом Qwen2-0.5B является ее способность к эффективному развертыванию на смартфонах, наушниках, умных очках других устройствах использующих технологии встраиваемых систем.
Низкие требования к памяти и вычислительным ресурсам делают ее идеальной edge-computing приложений. Qwen2-0.5B особенно подходит для создания персональных ассистентов на мобильных устройствах, простых чат-ботов, обработки текста в реальном времени на устройствах IoT, и как базовая модель для специализированного дообучения в ресурсо-ограниченных средах.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 31,11 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 19,11 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 31,11 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 50,31 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 16,71 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 50,31 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 50,31 | Запустить | ||
32 768 |
1 | 107,57 ₽ | 69,51 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 101,25 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 69,51 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 184,71 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 184,71 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 218,31 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 331,11 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 30,49 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 18,49 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 30,49 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 49,69 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 16,09 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 49,69 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 49,69 | Запустить | ||
32 768 |
1 | 107,57 ₽ | 68,89 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 100,62 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 68,89 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 184,09 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 184,09 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 217,69 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 330,49 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 29,33 ₽ | 29,07 | Запустить | ||
32 768 |
1 | 34,23 ₽ | 17,07 | Запустить | ||
32 768 |
1 | 33,74 ₽ | 29,07 | Запустить | ||
32 768 |
1 | 46,94 ₽ | 48,27 | Запустить | ||
32 768 |
1 | 51,34 ₽ | 14,67 | Запустить | ||
32 768 |
1 | 73,73 ₽ | 48,27 | Запустить | ||
32 768 |
1 | 91,14 ₽ | 48,27 | Запустить | ||
32 768 |
1 | 107,57 ₽ | 67,47 | Запустить | ||
32 768 tensor |
2 | 109,77 ₽ | 99,20 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 67,47 | Запустить | ||
32 768 |
1 | 211,77 ₽ | 182,67 | Запустить | ||
32 768 |
1 | 341,77 ₽ | 182,67 | Запустить | ||
32 768 |
1 | 367,41 ₽ | 216,27 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 329,07 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.