MiniMax-M1-40k

MiniMax-M1-40K представляет собой рассуждающую модель с архитектурой Mixture-of-Experts (MoE) на 456 миллиардов параметров, из которых активируется 45.9 миллиарда на токен. Модель построена на основе базовой версии серии MiniMax-Text-01 и также использует инновационный механизм Lightning Attention, который решает фундаментальную проблему квадратичной сложности традиционных трансформеров, что позволяет модели обрабатывать контекст до 1 миллиона токенов с невероятной эффективностью.

Модель обучалась с использованием революционного алгоритма CISPO (Clipped Importance Sampling Policy Optimization), который обрезает веса важности выборки вместо обновлений токенов, что обеспечивает в два раза более эффективное обучение по сравнению с традиционными методами. Это позволяет модели сохранять все токены для вычисления градиентов, особенно важные для стабилизации энтропии и масштабируемого обучения с подкреплением. Особенность M1-40K заключается в сбалансированном подходе к рассуждениям с бюджетом размышлений 40 000 токенов, что делает её идеальной для широкого спектра задач интеллектуального анализа. 

MiniMax-M1-40K превосходно справляется с задачами математического рассуждения, демонстрируя результат 83.3% на AIME 2024, показывает выдающиеся результаты в программировании и анализе кода, достигая 62.3% на LiveCodeBench и 67.6% на FullStackBench. Модель демонстрирует 60.0% на TAU-bench airline и 67.8% на TAU-bench retail исходя из чего она идеально подходит для создания ИИ-агентов и приложений, использующих различные вариации tool calling.

Дата анонса: 16.06.2025
Параметров: 456B
Экспертов: 32
Активно параметров при инференсе: 45.9B
Контекст: 10240K
Тип внимания: Full Attention
Потребление памяти: 289.9 ГБ в точности 4 бит
Разработчик: MiniMax-AI
Версия Transformers: 4.45.2
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с MiniMax-M1-40k.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.