Gemma 3 1B — компактная языковая модель от Google DeepMind, достигающая удивительного баланса между размером и возможностями. Со всего 1 миллиардом параметров и контекстным окном в 32K токенов, модель отличается высокой эффективностью и может работать на устройствах с ограниченными ресурсами. Благодаря архитектуре Gemma 3 1B обеспечивает оптимальное использование памяти, что делает её идеальным выбором для встраиваемых систем и мобильных приложений.
Важно отметить, что версия 1B является текстовой моделью и не поддерживает работу с изображениями, в отличие от более крупных представителей линейки Gemma 3 (4B, 12B и 27B), обладающих мультимодальными возможностями. Также она ограничена в плане языковой поддержки и оптимизирована в первую очередь для задач на английском языке.
Модель доступна с открытыми весами и легко дообучается, что позволяет разработчикам адаптировать её под свои нужды. Она представлена в нескольких уровнях квантования, начиная с 32-битного и заканчивая 4-битным, что даёт дополнительную гибкость при развертывании на разных аппаратных платформах.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.
Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.
Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 52.19 | 46,48 | Запустить | |
32 768 |
1 | 46,94 ₽ | 70.13 | 78,11 | Запустить | |
32 768 |
1 | 73,73 ₽ | 85.10 | 82,34 | Запустить | |
32 768 |
1 | 91,14 ₽ | 95.84 | 82,18 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 46,41 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 94.31 | 113,48 | Запустить | |
32 768 |
1 | 211,77 ₽ | 105.64 | 304,67 | Запустить | |
32 768 |
1 | 341,77 ₽ | 103.88 | 131,77 | Запустить | |
32 768 |
1 | 367,41 ₽ | 205.74 | 144,94 | Запустить | |
32 768 tensor |
2 | 411,81 ₽ | 268,74 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 228,92 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 229,89 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
32 768 |
1 | 33,74 ₽ | 51.26 | 42,49 | Запустить | |
32 768 |
1 | 46,94 ₽ | 62.69 | 74,12 | Запустить | |
32 768 |
1 | 73,73 ₽ | 80.56 | 78,35 | Запустить | |
32 768 |
1 | 91,14 ₽ | 89.07 | 78,19 | Запустить | |
32 768 tensor |
2 | 139,77 ₽ | 44,44 | Запустить | ||
32 768 |
1 | 141,77 ₽ | 83.91 | 109,49 | Запустить | |
32 768 |
1 | 211,77 ₽ | 110.85 | 300,68 | Запустить | |
32 768 |
1 | 341,77 ₽ | 116.27 | 129,99 | Запустить | |
32 768 |
1 | 367,41 ₽ | 260.99 | 143,16 | Запустить | |
32 768 tensor |
2 | 411,81 ₽ | 266,77 | Запустить | ||
32 768 |
1 | 423,04 ₽ | 227,14 | Запустить | ||
32 768 tensor |
2 | 839,97 ₽ | 229,01 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.