ERNIE-4.5-VL-28B-A3B-Thinking

ERNIE-4.5-VL-28B-A3B-Thinking базируется на инновационной гетерогенной Mixture-of-Experts (MoE) архитектуре, где текстовые и визуальные входные данные направляются к отдельным наборам экспертов, специализированных под характеристики каждой модальности (modality-isolated routing). При этом обобщение реализуется за счет общих слоев self-attention для всех модальностей и группу общих экспертов. Визуальные эксперты имеют на треть меньше параметров чем текстовые эксперты, что обеспечивает эффективную обработку визуальной информации при снижении вычислительных затрат примерно на 66% для визуальных токенов. Такая архитектура предотвращает ошибки в обработке данных разной модальности, одновременно обеспечивая высокую эффективность при формировании смысловой последовательности на этапе их объединения. Архитектура включает адаптивный Vision Encoder на базе ViT, обрабатывающий изображения с произвольным разрешением и сохраняющий исходные пропорции, а также поддерживает видео через адаптивную стратегию выборки кадров с временными метками. Модель поддерживает контекстное окно в 131,072 токена, что позволяет обрабатывать длинные документы и длинные видео фрагменты.

Ключевое отличие ERNIE-4.5-VL-28B-A3B-Thinking от базовой версии и других моделей линейки — это специализированное дополнительное обучение для задач мультимодального рассуждения через обширную фазу mid-training на высококачественных визуально-языковых данных. Модель использует передовые техники мультимодального обучения с подкреплением (GSPO и IcePop) на верифицируемых задачах, включая визуальные STEM-задачи и визуальные головоломки. Модель поддерживает уникальную функцию "Thinking with Images" — способность "думать" подобно человеку, масштабируя изображения и улавливая их детали для последующего анализа, и в добавок может использовать инструменты для поиска изображений в рамках решения задачи (для этого потребуется интегрировать внешнюю функцию).

ERNIE-4.5-VL-28B-A3B-Thinking отлично подходит для широкого спектра задач, требующих глубокого понимания мультимодальных данных. Она особенно эффективна в распознавании и интерпретации документов — от финансовых отчётов и научных статей до инженерных чертежей и таблиц. Благодаря режиму мышления, обеспечивающему пошаговые рассуждения, модель можно использовать в рамках образовательных приложений. Способности в области видеопонимания делают её полезной для систем видеонаблюдения, спортивной аналитики и каталогизации медиаконтента. Модель построена и обучена на фреймворке PaddlePaddle, однако есть версии весов, которые поддерживаются всеми популярными современными фреймворками для инференса и дообучения, при этом она распространяется по отрытой лицензии apache-2.0, что делает ее доступной для свободного коммерческого использования.

Дата анонса: 07.11.2025
Параметров: 30B
Экспертов: 130
Активно параметров при инференсе: 3B
Контекст: 131K
Слоев: 28
Тип внимания: Full Attention
Потребление памяти: 29.2 ГБ в точности 4 бит
Разработчик: Baidu, Inc.
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с ERNIE-4.5-VL-28B-A3B-Thinking. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.