Seed-OSS-36B

Seed-OSS-36B — это инновационная открытая большая языковая модель, разработанная командой ByteDance Seed для решения широкого спектра задач ИИ, требующих высокой мощности рассуждений, работы с длинным контекстом и гибкой агентной архитектуры. В основе лежит классическая архитектура трансформеров, усовершенствованная современными техниками: позиционное кодирование RoPE (Rotary Positional Embedding) — обеспечивает адаптивную работу с экстремально длинными последовательностями (до 512 тысяч токенов), продвинутый механизм внимания GQA (Grouped Query Attention) для ускорения и стабильности обработки, нормализация RMSNorm и активация SwiGLU для качественного обучения и генерации. Модель содержит 64 скрытых слоя, 36 миллиардов параметров, 80 голов внимания (8 - KV голов) с размером головы - 128. Такая конфигурация позволяет эффективно работать как над генерацией текстов, так и над сложными задачами рассуждения, программирования и агентного взаимодействия. Особенность подхода Seed-OSS — нативная поддержка сверхдлинного контекста без необходимости использования дополнительных техик, что особенно ценно для обработки больших документов, файлов, а также длинных диалогов.

Seed-OSS-36B выделяется высокими результатами на ключевых мировых бенчмарках в своем классе: например, занимает лидирующие позиции на LiveCodeBench, MMLU, AIME24/25, GPQA-D, RULER, а также демонстрирует передовое качество понимания инструкций на IFEval и агентских возможностей: TAU1-Retail, SWE-Bench Verified.

Особенностью Seed-OSS-36B-Instruct является гибкая система «thinking budget»: пользователи могут задавать лимит рассуждений для оптимального баланса скорости и глубины цепочек рассуждения. Это особенно важно оптимизации модели для разноплановых практических задач — от быстрых чат-ботов до глубоких аналитических приложений в бизнесе, науке и образовании. Модель ориентирована на международное применение и поддерживает мультиязычность и что немаловажно доступна по открытой лицензии Apache-2.0. Технически Seed-OSS-36B поддерживается как через классические Transformers, так и через современные фреймфорки – например vLLM API, что обеспечивает бесшовную интеграцию в промышленные решения, облачные сервисы и научные проекты.

Дата анонса: 20.08.2025
Параметров: 36.2B
Контекст: 525K
Тип внимания: Full Attention
Потребление памяти: 78.0 ГБ в точности 4 бит
Разработчик: ByteDance-Seed
Версия Transformers: 4.55.0
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с Seed-OSS-36B.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.