granite-4.2-3b

Granite-4.2-3B — самая компактная модель семейства, ориентированная на сценарии с жёсткими ограничениями по вычислительным ресурсам, но при этом сохраняющая ключевую особенность поколения 4.2 — встроенное рассуждение. Архитектура: плотный трансформер с 3 млрд параметров, 40 слоями, 40 головами запросов и 8 KV-головами, скрытым размером MLP 8192. Модель использует ту же схему GQA с полным вниманием в пределах контекста в 128К токенов, RoPE, SwiGLU и RMSNorm. Полное внимание здесь особенно важно, поскольку позволяет даже компактной модели выстраивать логические связи по всей заявленной длине входных данных.

3B поддерживает три режима мышления — full, non-thinking и low-effort — и нативный вызов инструментов, что делает её пригодной для лёгких агентных сценариев и диалоговых интерфейсов. Однако, в отличие от 8B и 30B, она не проходит агентный RL-блок (SWE, терминал, поиск) и довольствуется базовым RLVR для кода и instruction following. Это не недостаток, а осознанный выбор: 3B предназначена для случаев, где не требуется автономное решение сложных инженерных задач, но нужна надёжная рассуждающая модель, которую можно запустить на периферийном устройстве или в среде с ограниченной памятью.

Среди бенчмарков выделяются AIME25 (78.33) — для модели такого размера это очень высокий результат. MMLU-Pro (67.84) отражает широкие знания и способность следовать инструкциям на уровне, сопоставимом с моделями большего размера, что важно для универсального ассистента. RULER 128K (55.30) показывает, что модель справляется с длинным контекстом, хотя это не высокий, но приемлемый результат, позволяющий использовать её в задачах суммаризации и вопросно-ответных системах, исследующих документы средней длинны.

Granite-4.2-3B лучше всего подходит для edge-развёртывания, встраиваемых ассистентов, суммаризации документов, подсказок по автозаполнению кода/текста и других несложных задач в средах с ограниченной памятью. Все модели распространяются под лицензией Apache 2.0, что снимает вопросы по возможности коммерческого использования.

Дата анонса: 07.08.2026
Параметров: 4B
Контекст: 132K
Слоев: 40
Тип внимания: Full Attention
Разработчик: IBM
Версия Transformers: 4.57.1
Версия vLLM: >=0.17.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с granite-4.2-3b. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.

Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.

Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве.

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.