Granite-4.1-8B представляет собой инновационную языковую модель от IBM, построенную на плотной архитектуре decoder-only трансформера с полным вниманием. В отличие от предыдущего поколения Granite 4.0, которое использовало архитектуру смеси экспертов (MoE) и гибридный механизм внимания c mamba2, новая линейка демонстрирует, что тщательно выверенное качество данных и продуманный процесс обучения могут превзойти более сложные архитектурные решения, устраняя отставание по производительности, за счет качества генерации и предсказуемости поведения модели, что критически важно для корпоративных приложений.
Модель применяет уже ставшими классическими архитектурные решения, это: Grouped Query Attention (GQA) для эффективного использования памяти, Rotary Position Embeddings (RoPE) для работы с длинными последовательностями, SwiGLU-активации и RMSNorm, а также разделённые входные и выходные эмбеддинги. Качество Granite-4.1-8B достигается за счёт многоэтапного процесса предобучения на примерно 15 триллионах токенов, включающего пять последовательных фаз. Первые две фазы формируют фундаментальное языковое понимание на основе широкого набора данных, включая CommonCrawl (59%), код (20%), математические данные (7%), техническую документацию (10.5%), многоязычные данные (2%) и доменно-специфический контент (1.5%). Третья и четвёртая фазы представляют собой "mid-training" с annealing на высококачественных данных, а пятая фаза вводит обучение на длинном контексте, расширяя окно до 512K токенов. Процесс пост-обучения включает контролируемый fine-tuning на 4.1 миллиона тщательно отобранных образцов с использованием LLM-as-Judge фреймворка и многоэтапное обучение с подкреплением через on-policy GRPO с DAPO loss, что позволило систематически усилить производительность в математике, программировании, следовании инструкциям и общих диалоговых сценариях.
На бенчмарках Granite-4.1-8B демонстрирует впечатляющие результаты. В задачах на математическое мышление модель достигает 92,49% на GSM8K (8-shot) и 80,07% на DeepMind Math (0-shot, CoT). В кодовых задачах — 85,37% на HumanEval pass@1 и 87,30% на MBPP pass@1. В выравнивании — 87,06% на IFEval и 68,98% на ArenaHard. Инструментальные вызовы оценены в 68,27% на BFCL v3. Особенно показательно, что 8B модель стабильно превосходит предыдущий флагман IBM Granite 4.0-H-Small (32B параметров, 9B активных в MoE-архитектуре) — наглядное подтверждение эффективности нового подхода к обучению и архитектуре.
Сценарии использования Granite 4.1-8B ориентированы на создание эффективных корпоративных решений. Благодаря продвинутому вызову инструментов и строгому следованию инструкциям, модель идеально подходит для роли ядра автономных ИИ-агентов, автоматизирующих сложные многошаговые бизнес-процессы через интеграцию с внешними сервисами и базами данных. Длинный контекст делает её оптимальным выбором для систем RAG, анализа юридических и работы с массивами технической документации. А достойные результаты в математике, программировании и других отраслях знания позволяют внедрять её в качестве интеллектуального ассистента.
Выпущенная под лицензией Apache 2.0 с криптографическими подписями и сертификацией ISO, модель обеспечивает необходимый уровень доверия и прозрачности для критически важных корпоративных приложений.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 tensor |
2 | 83,37 ₽ | 1,48 | Запустить | ||
131 072 pipeline |
3 | 94,64 ₽ | 1,18 | Запустить | ||
131 072 tensor |
4 | 112,24 ₽ | 1,75 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,57 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,57 | Запустить | ||
131 072 |
1 | 141,77 ₽ | 1,02 | Запустить | ||
131 072 tensor |
2 | 171,77 ₽ | 1,57 | Запустить | ||
131 072 |
1 | 211,77 ₽ | 3,22 | Запустить | ||
131 072 |
1 | 341,77 ₽ | 3,22 | Запустить | ||
131 072 |
1 | 367,41 ₽ | 3,86 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 6,70 | Запустить | ||
131 072 |
1 | 423,04 ₽ | 6,01 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 12,27 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 tensor |
2 | 83,37 ₽ | 1,28 | Запустить | ||
131 072 tensor |
4 | 112,24 ₽ | 1,55 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,38 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,38 | Запустить | ||
131 072 tensor |
2 | 171,77 ₽ | 1,37 | Запустить | ||
131 072 |
1 | 211,77 ₽ | 3,03 | Запустить | ||
131 072 tensor |
2 | 261,77 ₽ | 2,09 | Запустить | ||
131 072 |
1 | 341,77 ₽ | 3,02 | Запустить | ||
131 072 |
1 | 367,41 ₽ | 3,66 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 6,50 | Запустить | ||
131 072 |
1 | 423,04 ₽ | 5,81 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 12,07 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
131 072 tensor |
4 | 112,24 ₽ | 1,18 | Запустить | ||
131 072 pipeline |
3 | 119,81 ₽ | 1,65 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,01 | Запустить | ||
131 072 tensor |
2 | 139,77 ₽ | 1,01 | Запустить | ||
131 072 tensor |
4 | 139,96 ₽ | 2,64 | Запустить | ||
131 072 tensor |
2 | 171,77 ₽ | 1,00 | Запустить | ||
131 072 |
1 | 211,77 ₽ | 2,66 | Запустить | ||
131 072 tensor |
2 | 261,77 ₽ | 1,72 | Запустить | ||
131 072 |
1 | 341,77 ₽ | 2,65 | Запустить | ||
131 072 |
1 | 367,41 ₽ | 3,29 | Запустить | ||
131 072 tensor |
2 | 411,81 ₽ | 6,13 | Запустить | ||
131 072 |
1 | 423,04 ₽ | 5,44 | Запустить | ||
131 072 tensor |
2 | 839,97 ₽ | 11,70 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.