Nanbeige (南北阁, «Южная и Северная павильонные башни») — это исследовательское подразделение в области искусственного интеллекта Kanzhun Limited — пекинской технологической компании, управляющей BOSS Zhipin (BOSS直聘), крупнейшей китайской онлайн-платформой по подбору персонала. Лаборатория основана в 2023 году как внутренняя инициатива по разработке фундаментальных моделей. Публичное название «Nanbeige» закрепилось за лабораторией как бренд исследовательского направления в области LLM.
Первое поколение Nanbeige-16B (2023–2024) вышло в вариантах Base, Chat и с контекстом до 32 768 токенов; модель обучалась на корпусе объёмом 2,5 трлн токенов и распространялась под Apache 2.0 с дополнительным лицензионным соглашением. На тот момент это был стандартный для открытых моделей того периода масштаб, но уже тогда лаборатория обозначила приверженность открытым весам.
Стратегический сдвиг произошёл с переходом к семейству Nanbeige4, построенному вокруг архитектуры с 3 млрд параметров. Технический отчёт Nanbeige4-3B документирует два ключевых вклада: Fine-Grained Warmup-Stable-Decay (FG-WSD) — планировщик обучения, который прогрессивно уточняет смеси данных на разных стадиях, и Dual Preference Distillation (DPD) — метод дистилляции, сочетающий генеративное уточнение с реконструкцией цепочек рассуждений. Эти механизмы позволили модели с 3B параметров конкурировать с LLM в 10 раз крупнее. Этот результат обозначил исследовательскую позицию Nanbeige: не гонка за масштабом, а извлечение максимальной эффективности из малого числа параметров за счёт качества данных и многостадийного пост-обучения.
Следующим шагом стала архитектурная инновация Looped Transformer в Nanbeige4.2-3B. Вместо увеличения числа параметров модель использует один и тот же стек из 22 слоёв дважды за прямой проход (num_loops=2), что позволило повысить эффективную глубину и ёмкость без добавления весов: среди открытых моделей сопоставимого размера повторное использование слоёв для увеличения эффективной глубины остаётся редким архитектурным выбором. Здесь компания последовательно развивает линию «малого универсала»: модель одновременно демонстрирует агентное поведение, генерацию кода и общие рассуждения, позиционируясь как «малая общая модель, которая рассуждает, выравнивается и действует». В отличие от узкоспециализированных 3B-моделей, Nanbeige4.1 претендует на роль единого агентного ядра для задач, традиционно требующих моделей большего размера.
Флагманский релиз Nanbeige4.3-33B (24 октября 2026 года, Apache 2.0) отмечает смену архитектурной парадигмы: после экспериментального Looped Transformer лаборатория вернулась к плотной GQA архитектуре на базе моделей llama. Модель изначально проектировалась как «агент учитель» для последующей дистилляции в 3B-версию, но показала результаты на бенчмарках выше Qwen3.8-27B и Gemma4-31B и ворвалась в конкурентный ТОП AI Intelligence Index.
Отдельного упоминания заслуживает Depth Hybrid Attention (DHA) — архитектурное исследование лаборатории, адаптирующее гибридные схемы внимания (Depth Window Attention для GQA+SWA; Depth Delta Attention для MLA+KDA) с сохранением низкого объёма KV-кэша. DHA пока не является частью флагманских релизов, но документирует направление поиска более эффективных гибридных архитектур.
Таким образом Nanbeige занимает нишу, отличную от крупных лабораторий, конкурирующих за счет масштабирования параметров. Её трек сосредоточен в области эффективности малых моделей. В глобальной экосистеме лаборатория выступает одновременно open-weight драйвером (все ключевые модели под Apache 2.0) и исследовательским подразделением корпоративной платформы, что объясняет прикладной фокус на агентном программировании и офисной автоматизации.