granite-4.1-30b

Модель Granite‑4.1‑30B развивает подход IBM к созданию плотных (dense) языковых моделей. В отличие от гибридных архитектур предыдущего поколения, здесь используется классический декодерный трансформер с полноценным вниманием, что обеспечивает детерминированность вычислений и высокую повторяемость результатов – ключевое требование для промышленной эксплуатации. Инженерные решения включают групповое запросное внимание (GQA) для сокращения расхода памяти, позиционные кодировки RoPE для корректной обработки длинных цепочек, функцию активации SwiGLU, нормализацию RMSNorm и разделённые эмбеддинги на входе и выходе. Тридцатимиллиардная версия отличается углублённой архитектурой: количество слоёв достигает 64, что наделяет её повышенной ёмкостью для сложных зависимостей.

Обучение модели проходило в пять этапов на массиве примерно в 15 трлн токенов: начальные две фазы давали базовое языковое чутьё на смеси интернет‑корпусов (CommonCrawl – 59%), код (20%), математических текстов (7%), технических мануалов (10.5%), многоязычных источников (2%) и узкопрофильных материалов (1.5%). Третий и четвёртый циклы представляли собой промежуточное дообучение на отборных данных с понижением темпа обучения, а пятый этап был посвящён адаптации к длинным последовательностям вплоть до 512 тыс. токенов. Пост‑тренинг включал контролируемую настройку на 4.1 млн примеров, отобранных с помощью LLM‑асессора, и многократные итерации подкрепления через GRPO с функцией потерь DAPO, что заметно подтянуло показатели в математике, кодинге, исполнении инструкций и диалоговых сценариях.

Бенчмарки фиксируют очень достойные показатели модели. На MMLU (5‑shot) она набирает 80.16%, на MMLU‑Pro (5‑shot, CoT) – 64.09%, на GSM8K (8‑shot) – 94.16%, на DeepMind Math (0‑shot, CoT) – 81.93%, на HumanEval pass@1 – 89.63%, на MBPP pass@1 – 83.33%, на BBH (3‑shot, CoT) – 83.74%, на AGI EVAL – 77.80%. Эти цифры существенно превосходят результаты линейки Granite 4.0, что явно иллюстрирует эффективность новой стратегии обучения.

Практическое применение Granite 4.1‑30B охватывает наиболее ресурсоёмкие корпоративные задачи. Поддержка вызова инструментов в сочетании с умением четко следовать инструкциям открывают путь к созданию многошаговых автономных агентов, взаимодействующих с корпоративными API и базами данных. Расширенный контекст позволяет использовать модель для RAG‑систем, кроме того, сильные позиции в математике и программировании позволяют задействовать её как интеллектуального помощника.

Что немаловажно - модель распространяется под лицензией Apache 2.0, снабжена криптографическими подписями и сертифицирована по стандартам ISO, что гарантирует высокий уровень надёжности и прозрачности.

Дата анонса: 06.04.2026
Параметров: 29B
Контекст: 132K
Слоев: 64
Тип внимания: Full Attention
Разработчик: IBM
Версия Transformers: 4.53.3
Версия vLLM: >=0.17.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с granite-4.1-30b. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.