granite-4.2-30b

размышляющая
для кодинга

Granite-4.2-30B — старшая модель в семействе 4.2, предназначенная для задач, где требуется максимальная глубина рассуждений и автономность в рамках агентных сценариев. Архитектурно это плотный (dense) decoder-only трансформер с 30 млрд параметров, 64 слоями и скрытым размером эмбеддингов 4096. В основе внимания лежит Grouped Query Attention (GQA) с 32 головами запросов и 8 головами ключей/значений, что снижает нагрузку на память при генерации, сохраняя при этом полное (full) внимание в пределах всего контекста. Разработчики вернулись к полному вниманию, поскольку для сложных многошаговых рассуждений, агентных циклов и работы с длинными документами критически важна способность каждой позиции напрямую взаимодействовать со всеми предыдущими токенами в окне до 128K (с расширением до 512K); GQA делает такую схему вычислительно приемлемой за счёт сокращения числа KV-голов в четыре раза по сравнению с головами запросов, при этом затраты на KV объективно больше, чем у моделей, использующих гибридное внимание.

По сравнению с Granite-4.1(инструктивная версия) в первую очередь модель отличается добавлением встроенного механизма формирования цепочки рассуждений. Второе существенное отличие - она прошла специализированный второй этап SFT с упором на агентное программирование и полный цикл агентного RL в реальных средах — software engineering (SWE), работа в терминале и веб-поиск, — что делает её полноценной моделью-агентом, способной читать код, редактировать файлы, запускать тесты и восстанавливаться после ошибок. Нативный вызов инструментов встроен в формат OpenAI function calling, а рассуждение о том, какой инструмент и зачем вызывать, повышает точность вызовов.Модель поддерживает три режима работы: полное мышление (по умолчанию, развёрнутая цепочка рассуждений внутри специальных токенов), без мышления (прямой ответ без накладных расходов на рассуждение) и low-effort (короткое рассуждение для простых запросов). Такая гибкость позволяет на уровне отдельного запроса балансировать между глубиной проработки и задержкой.

Среди бенчмарков стоит выделить несколько показательных результатов. SWE Bench Verified (57.00) проверяет способность автономно исправлять реальные ошибки в open-source репозиториях — это прямой индикатор качества агентного программирования, и 30B показывает здесь лучший результат в семействе. AIME25 (89.17) — сложный математический бенчмарк соревновательного уровня, где модель демонстрирует почти 90% точности, что отражает силу цепочки рассуждений.

Granite-4.2-30B рекомендуется для самых требовательных задач своего класса: автономный агент для software engineering (исправление ошибок в репозиториях, запуск тестов, работа в терминале), глубокий веб-ресёрч с многопереходным поиском, математические и научные рассуждения, а также агентные workflow, где цена ошибки высока и допустима повышенная задержка.


Дата анонса: 07.08.2026
Параметров: 30B
Контекст: 132K
Слоев: 64
Тип внимания: Full Attention
Разработчик: IBM
Версия Transformers: 4.57.1
Версия vLLM: >=0.17.0
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с granite-4.2-30b. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU Статус Ссылка

API доступ к granite-4.2-30b эндпоинтам

Для данной модели пока нет публичных эндпоинтов.

Частный эндпоинт

Эндпоинт — это сервер с предустановленным программным обеспечением, с помощью которого автоматически скачиваются веса нейросети и запускается OpenAI-совместимый API для обращений к серверу.

Частный эндпоинт создается в проекте пользователя, принадлежит пользователю монопольно и тарифицируется за каждую конфигурацию сервера в соответствии с нашими инфраструктурными тарифами.

Мы рекомендуем создание частных эндпоинтов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве.

Рекомендуемые конфигурации сервера для создания частного эндпоинта для инференса granite-4.2-30b

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-3.16.96.160
131 072
pipeline
3 119,81 ₽ 1,06 Запустить
teslaa10-4.16.64.160
131 072
tensor
4 144,97 ₽ 1,65 Запустить
teslaa2-6.32.128.160
131 072
pipeline
6 147,44 ₽ 1,31 Запустить
rtx3090-3.16.96.160
131 072
pipeline
3 204,41 ₽ 1,15 Запустить
teslaa100-1.16.64.160
131 072
1 211,77 ₽ 1,66 Запустить
rtx4090-3.16.96.160
131 072
pipeline
3 252,41 ₽ 1,14 Запустить
rtx3090-4.16.64.160
131 072
tensor
4 257,77 ₽ 1,77 Запустить
rtx5090-2.16.64.160
131 072
tensor
2 261,77 ₽ 1,08 Запустить
rtx3090-4.16.128.160.nvlink
131 072
tensor
4 269,04 ₽ 1,77 Запустить
rtx4090-4.16.64.160
131 072
tensor
4 321,77 ₽ 1,76 Запустить
h100-1.16.64.160
131 072
1 341,77 ₽ 1,66 Запустить
h100nvl-1.16.96.160
131 072
1 367,41 ₽ 2,06 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
2 411,81 ₽ 3,83 Запустить
h200-1.16.128.160
131 072
1 423,04 ₽ 3,40 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
2 839,97 ₽ 7,31 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-4.16.64.160
131 072
tensor
4 144,97 ₽ 1,28 Запустить
teslaa100-1.16.64.160
131 072
1 211,77 ₽ 1,30 Запустить
rtx3090-4.16.64.160
131 072
tensor
4 257,77 ₽ 1,41 Запустить
rtx3090-4.16.128.160.nvlink
131 072
tensor
4 269,04 ₽ 1,41 Запустить
rtx4090-4.16.64.160
131 072
tensor
4 321,77 ₽ 1,40 Запустить
h100-1.16.64.160
131 072
1 341,77 ₽ 1,29 Запустить
h100nvl-1.16.96.160
131 072
1 367,41 ₽ 1,69 Запустить
rtx5090-3.16.96.160
131 072
pipeline
3 387,41 ₽ 1,43 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
2 411,81 ₽ 3,47 Запустить
h200-1.16.128.160
131 072
1 423,04 ₽ 3,04 Запустить
rtx5090-4.16.128.160
131 072
tensor
4 513,04 ₽ 2,30 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
2 839,97 ₽ 6,95 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa100-2.24.96.160.nvlink
131 072
tensor
2 411,81 ₽ 2,64 Запустить
h200-1.16.128.160
131 072
1 423,04 ₽ 2,21 Запустить
teslaa100-2.24.256.160
131 072
tensor
2 439,97 ₽ 2,64 Запустить
rtx5090-4.16.128.160
131 072
tensor
4 513,04 ₽ 1,47 Запустить
rtx4090-6.44.256.160
131 072
pipeline
6 520,97 ₽ 1,61 Запустить
dedicated-rtx3090-8.64.128.960-1
131 072
tensor
8 539,21 ₽ 2,86 Запустить
rtx4090-8.44.256.160
131 072
tensor
8 670,97 ₽ 2,85 Запустить
h100-2.24.256.160
131 072
tensor
2 699,97 ₽ 2,63 Запустить
h100nvl-2.24.192.240
131 072
tensor
2 729,47 ₽ 3,43 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
2 839,97 ₽ 6,12 Запустить

Связанные модели

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.

Мы используем файлы cookie и сервисы веб-аналитики для обеспечения работы сайта, анализа посещаемости и улучшения качества наших услуг.
Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности и даете согласие на обработку cookie-файлов и технических данных.