granite-4.2-8b

Granite-4.2-8B занимает среднюю позицию в семействе и предлагает компромисс между качеством рассуждений и вычислительной эффективностью. Это плотный decoder-only трансформер с 8 млрд параметров с 40 слоями, 32 головами запросов, 8 KV-головами и скрытым размером MLP 12 800. Архитектурные принципы: GQA с полным вниманием в пределах контекста, RoPE с θ = 10 000 000, SwiGLU, RMSNorm и bfloat16. Полное внимание здесь сохраняет способность модели выстраивать точные дальние зависимости, необходимые для агентных циклов и длинных документов, а GQA удерживает стоимость инференса в разумных рамках для модели среднего размера.

От Granite-4.1 модель отличается прежде всего добавлением нативного рассуждения и агентного RL. Как и 30B, модель поддерживает три режима мышления (full, non-thinking, low-effort) и нативный вызов инструментов с рассуждением при выборе функции. Модель при обучении прошла агентный RL-блок — те же этапы SWE, терминала и поиска, что и флагман, хотя и с меньшим числом раундов RLVR (2 против 3 у 30B). Это означает, что 8B способна не просто следовать инструкциям, а действовать в реальных средах: редактировать код, выполнять команды и вести многошаговый поиск. При этом модель остаётся достаточно компактной для развёртывания, что делает её практичным выбором для агентных систем среднего масштаба.

Из бенчмарков показательны SWE Bench Verified (47.67) — способность решать реальные задачи в репозиториях, AIME25 (86.67) демонстрирует сильные математические рассуждения- результат близок к флагману, даже при 8 млрд параметров. RULER 128K (71.41) подтверждает работоспособность на длинном контексте: модель сохраняет значительную точность на 128K контксте.

Granite-4.2-8B — универсальный производственный выбор для агентных систем среднего масштаба: вызов инструментов, автоматизация процесса разработки, многоязычные диалоги и задачи с контекстом приемлемой длинны, где важны одновременно и качество, и стоимость инференса.

Дата анонса: 07.08.2026
Параметров: 9B
Контекст: 132K
Слоев: 40
Тип внимания: Full Attention
Разработчик: IBM
Версия Transformers: 4.57.1
Версия vLLM: >=0.17.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с granite-4.2-8b. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.

Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.

Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве.

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.