gpt-oss-20b

размышляющая
русскоязычная
можно попробовать

Модель GPT-OSS-20B представляет собой удивительное достижение в области компактных языковых моделей, доказывая, что размер не всегда определяет качество. С 20.9B общими параметрами и 3.6B активными параметрами на токен, эта модель демонстрирует поразительную эффективность, работая на устройствах со всего лишь 16GB памяти благодаря инновационной квантизации MXFP4. Архитектура включает 24 слоя с 32 экспертами на каждом слое, но активируются только топ-4 эксперта, что обеспечивает оптимальный баланс между производительностью и доступностью. Модель использует те же оптимизации, что и её «старший брат»: чередующиеся attention-паттерны (full и window), Grouped Query Attention, rotary position embeddings, но в еще более компактном формате.

Техническое совершенство GPT-OSS-20B проявляется в её способности генерировать сверхдлинные цепочки рассуждений — в среднем более 20,000 CoT токенов на задачу из бенчмарка AIME, что позволяет ей конкурировать с гораздо более крупными моделями. И действительно на математических задачах уровня AIME 2025 модель достигает фантастических результатов в 98.7% точности, превосходя OpenAI o3-mini (86.5%). В области программирования модель показывает Elo рейтинг 2516 на Codeforces и 60.7% на SWE-Bench Verified. На HealthBench модель достигает 42.5%, превосходя o1 (41.8%) и o3-mini (37.8%), что намекает на её потенциал в медицинских исследованиях и приложениях.

Практическая ценность GPT-OSS-20B заключается в её универсальности и доступности (лицензия Apache 2.0). Модель обучена тем же техникам CoT и RL, что и o3 от OpenAI, поддерживает полный спектр агентских инструментов как решения enterprise уровня (веб-поиск, выполнение скриптов на Python, вызов произвольных функций разработчика), но благодаря упомянутой нативной квантизации MXFP4 все это умещается всего в 12.8 GiB. Она идеальна для локального развертывания, быстрого прототипирования и сценариев, где требуется баланс между возможностями ИИ и ограниченными ресурсами.


Дата анонса: 05.08.2025
Параметров: 21B
Экспертов: 32
Активно параметров при инференсе: 4B
Контекст: 132K
Слоев: 24, с полным вниманием: 12
Тип внимания: Sliding Window Attention
Разработчик: OpenAI
Версия Transformers: 4.55.0.dev0
Лицензия: Apache 2.0

Публичный эндпоинт

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с gpt-oss-20b. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.
Наименование модели Контекст Тип GPU TPS Tooling Статус Ссылка
openai/gpt-oss-20b 131 072 Публичный RTX4090 245.00 доступен чат

API доступ к gpt-oss-20b эндпоинтам

curl https://chat.immers.cloud/v1/endpoints/gpt-oss-20b/generate/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer USER_API_KEY" \
--data-binary @- <<"EOF"
{"model": "gpt-oss-20b", "messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"}
], "temperature": 0, "max_tokens": 150
}
EOF
$response = Invoke-WebRequest https://chat.immers.cloud/v1/endpoints/gpt-oss-20b/generate/chat/completions `
-Method POST `
-Headers @{
"Authorization" = "Bearer USER_API_KEY"
"Content-Type" = "application/json; charset=utf-8"
} `
-Body ([System.Text.Encoding]::UTF8.GetBytes((@{
model = "gpt-oss-20b"
messages = @(
@{ role = "system"; content = "You are a helpful assistant." },
@{ role = "user"; content = "Say this is a test" })
} | ConvertTo-Json -Depth 10)))
([System.Text.Encoding]::UTF8.GetString($response.RawContentStream.ToArray()) | ConvertFrom-Json).choices[0].message.content
#!pip install OpenAI --upgrade

from openai import OpenAI

client = OpenAI(
api_key="USER_API_KEY",
base_url="https://chat.immers.cloud/v1/endpoints/gpt-oss-20b/generate/",
)

chat_response = client.chat.completions.create(
model="gpt-oss-20b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say this is a test"},
]
)
print(chat_response.choices[0].message.content)

Частный сервер

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

  • получить максимальную производительность эндпоинта,
  • получить полный контекст для обработки больших запросов и диалогов,
  • обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
  • использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Рекомендуемые конфигурации сервера для хостинга gpt-oss-20b

Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslaa10-1.16.32.160
131 072
 1 46,94 ₽ 2,05 Запустить
teslat4-2.16.32.160
131 072
tensor
 2 48,14 ₽ 3,17 Запустить
teslaa2-2.16.32.160
131 072
tensor
 2 51,34 ₽ 3,20 Запустить
rtx3090-1.16.24.160
131 072
 1 73,73 ₽ 2,35 Запустить
rtx4090-1.16.32.160
131 072
 1 91,14 ₽ 2,34 Запустить
rtx2080ti-4.16.32.160
131 072
tensor
 4 99,74 ₽ 5,39 Запустить
rtxa5000-2.16.64.160.nvlink
131 072
tensor
 2 109,77 ₽ 7,75 Запустить
rtx5090-1.16.64.160
131 072
 1 141,77 ₽ 4,60 Запустить
rtx3080-4.16.64.160
131 072
tensor
 4 162,57 ₽ 4,29 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 18,41 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 18,39 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 22,40 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
 2 411,81 ₽ 40,48 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 35,87 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
 2 839,97 ₽ 75,40 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslat4-4.16.64.160
131 072
tensor
 4 85,77 ₽ 1,64 Запустить
teslaa2-4.32.128.160
131 072
tensor
 4 112,24 ₽ 1,68 Запустить
teslaa10-4.12.48.160
131 072
tensor
 4 139,96 ₽ 10,79 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 10,79 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 10,04 Запустить
rtx3090-4.16.64.160
131 072
tensor
 4 257,77 ₽ 12,02 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 4,49 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 11,97 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 10,02 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 14,04 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
 2 411,81 ₽ 32,11 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 27,50 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
 2 839,97 ₽ 67,03 Запустить
Цены:
Наименование GPU Цена, час TPS Параллельность (макс.)
teslat4-4.16.64.160
131 072
tensor
 4 85,77 ₽ 1,45 Запустить
teslaa2-4.32.128.160
131 072
tensor
 4 112,24 ₽ 1,50 Запустить
teslaa10-4.12.48.160
131 072
tensor
 4 139,96 ₽ 10,61 Запустить
rtxa5000-4.16.128.160.nvlink
131 072
tensor
 4 209,04 ₽ 10,61 Запустить
teslaa100-1.16.64.160
131 072
 1 211,77 ₽ 9,86 Запустить
rtx3090-4.16.64.160
131 072
tensor
 4 257,77 ₽ 11,83 Запустить
rtx5090-2.16.64.160
131 072
tensor
 2 261,77 ₽ 4,30 Запустить
rtx4090-4.16.64.160
131 072
tensor
 4 321,77 ₽ 11,78 Запустить
h100-1.16.64.160
131 072
 1 341,77 ₽ 9,84 Запустить
h100nvl-1.16.96.160
131 072
 1 367,41 ₽ 13,85 Запустить
teslaa100-2.24.96.160.nvlink
131 072
tensor
 2 411,81 ₽ 31,93 Запустить
h200-1.16.128.160
131 072
 1 423,04 ₽ 27,32 Запустить
h200-2.24.256.160.nvlink
131 072
tensor
 2 839,97 ₽ 66,85 Запустить

Связанные модели

gpt-oss-120b

Остались вопросы?

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.